1
00:00:03,003 --> 00:00:05,405
(gran fanfarria orquestal
jugando)
2
00:00:27,795 --> 00:00:30,163
♪ ♪
3
00:00:41,843 --> 00:00:44,144
(pájaros cantando y llamando)
4
00:00:49,216 --> 00:00:51,519
-(burbujeando)
-(trinando)
5
00:00:55,657 --> 00:00:58,058
(VCR haciendo clic y zumbando)
6
00:01:01,194 --> 00:01:02,630
(clic del proyector)
7
00:01:05,332 --> 00:01:09,637
Ahora bien, las computadoras actuales
son completos idiotas,
8
00:01:09,671 --> 00:01:12,507
pero esto no será verdad
en otra generación.
9
00:01:12,540 --> 00:01:15,342
Empezarán a pensar,
y eventualmente lo harán
10
00:01:15,375 --> 00:01:17,845
pensar completamente más
sus creadores.
11
00:01:17,879 --> 00:01:20,582
¿Es esto deprimente?
No veo por qué debería ser así.
12
00:01:20,615 --> 00:01:25,352
Sospecho que orgánico
o evolución biológica
13
00:01:25,385 --> 00:01:27,220
casi ha llegado a su fin.
14
00:01:28,322 --> 00:01:29,791
(Daniel se ríe)
15
00:01:29,824 --> 00:01:31,224
CAROLINE: No me quieres
ser el narrador.
16
00:01:31,258 --> 00:01:32,694
No tengo buena voz.
17
00:01:32,727 --> 00:01:34,461
DANIEL: Tienes una gran voz.
Simplemente hazlo.
18
00:01:34,494 --> 00:01:36,598
Es solo un--
solo lo estamos probando.
19
00:01:36,631 --> 00:01:38,432
CAROLINA:
¿Me pagan por esta mierda?
20
00:01:38,465 --> 00:01:40,768
DANIEL (riendo): Bueno,
Veremos qué tan bien lo haces.
21
00:01:40,802 --> 00:01:42,202
(Caroline riendo)
22
00:01:42,235 --> 00:01:44,304
-♪ ♪
-(el perro ladra)
23
00:01:46,908 --> 00:01:48,576
CAROLINA:
Necesito llamar a mis padres.
24
00:01:48,610 --> 00:01:49,309
(el motor arranca)
25
00:01:49,343 --> 00:01:51,478
A veces nos apresuramos en las cosas
26
00:01:51,512 --> 00:01:53,347
sin pensarlo bien.
27
00:01:53,380 --> 00:01:54,916
DANIEL: Sí, ¿puedes sh...?
quieres disparar? Eso es...
28
00:01:54,949 --> 00:01:57,752
CAROLINE: Como cuando Daniel
y Carolina se casó
29
00:01:57,785 --> 00:02:00,755
151 días después de conocerse.
30
00:02:00,788 --> 00:02:02,523
Rebobinemos.
31
00:02:03,691 --> 00:02:05,325
(aplausos)
32
00:02:05,359 --> 00:02:07,562
¿Has estado pensando en
¿Comprar una computadora en casa?
33
00:02:07,595 --> 00:02:09,631
CAROLINA:
En 1993, cuando nació Daniel,
34
00:02:09,664 --> 00:02:12,533
sus padres ni siquiera tenían
una computadora en la casa.
35
00:02:12,567 --> 00:02:14,334
Pero él recuerda
cuando finalmente consiguieron uno.
36
00:02:14,368 --> 00:02:16,269
Lo que es una computadora para mí es
37
00:02:16,303 --> 00:02:18,873
el equivalente a una bicicleta
para nuestras mentes.
38
00:02:18,906 --> 00:02:20,608
Hola.
39
00:02:20,642 --> 00:02:22,777
CAROLINE: Su computadora ayudó
da rienda suelta a su creatividad.
40
00:02:22,810 --> 00:02:24,411
DANIEL:
Rodando. Ir.
41
00:02:24,444 --> 00:02:27,247
CAROLINE: Él usó
el iMac de su padre para editar vídeos.
42
00:02:27,280 --> 00:02:28,650
¡Sí!
43
00:02:28,683 --> 00:02:30,618
CAROLINE: Y hasta hacer
pequeñas animaciones.
44
00:02:30,652 --> 00:02:32,419
(llantas chirriando, choque)
45
00:02:32,452 --> 00:02:35,690
En 1998, cuando Caroline era
una niña...
46
00:02:35,723 --> 00:02:37,290
Hola mami.
47
00:02:37,324 --> 00:02:38,593
...sólo los nerds lo sabían
qué era Internet.
48
00:02:38,626 --> 00:02:40,360
¿Y qué pasa con
¿Esto de Internet?
49
00:02:40,394 --> 00:02:41,696
-¿Sabes algo?
sobre eso? -Seguro.
50
00:02:41,729 --> 00:02:43,330
-(risas de la audiencia)
-CAROLINE: Pero pronto,
51
00:02:43,363 --> 00:02:45,399
-todos estaban en el...
-...Internet.
52
00:02:45,432 --> 00:02:47,467
...y las computadoras eran
vencer a los humanos en el ajedrez.
53
00:02:47,502 --> 00:02:50,470
LOCUTOR: Deep Blue--
¡Kasparov ha dimitido!
54
00:02:50,505 --> 00:02:52,874
CAROLINE: Y por el momento
Caroline fue a la universidad
55
00:02:52,907 --> 00:02:55,543
las computadoras eran
en el bolsillo de todos.
56
00:02:55,576 --> 00:02:58,713
Ahora Daniel podría hacer películas
con su teléfono.
57
00:02:58,746 --> 00:03:02,215
Creció para ser artista
y un cineasta...
58
00:03:02,249 --> 00:03:04,418
-Buenas noches.
-...y Caroline también.
59
00:03:04,451 --> 00:03:06,286
Cortar. Entremos en primer plano.
Eso fue perfecto.
60
00:03:06,319 --> 00:03:07,822
Para entonces, las computadoras eran
conectando personas
61
00:03:07,855 --> 00:03:09,456
y cambiar el mundo de maneras
62
00:03:09,489 --> 00:03:10,925
que nunca
podría haberlo imaginado.
63
00:03:10,958 --> 00:03:12,694
Todo el dinero recaudado por
el desafío del cubo de hielo...
64
00:03:12,727 --> 00:03:14,796
CAROLINA:
Algunas cosas estuvieron buenas.
65
00:03:14,829 --> 00:03:15,963
(jadeando)
66
00:03:15,997 --> 00:03:17,565
Algunos no tan buenos.
67
00:03:17,598 --> 00:03:19,701
Ansiedad, autolesiones, suicidio...
68
00:03:19,734 --> 00:03:21,602
Pero ahora está claro
que no hicimos lo suficiente
69
00:03:21,636 --> 00:03:24,839
para evitar que estas herramientas
siendo utilizado para hacer daño también.
70
00:03:24,872 --> 00:03:26,741
CAROLINE: Y como el mundo
Se centró cada vez más
71
00:03:26,774 --> 00:03:28,543
-en sus computadoras,
-(sonidos del teléfono)
72
00:03:28,576 --> 00:03:31,211
Daniel se centró en su obra de arte.
73
00:03:32,312 --> 00:03:36,249
Dondequiera que fuera,
siempre tenía un cuaderno de bocetos,
74
00:03:36,283 --> 00:03:38,720
incluida la noche
conoció a Caroline.
75
00:03:38,753 --> 00:03:41,923
Hizo un dibujo terrible
de ella, y 20 minutos después,
76
00:03:41,956 --> 00:03:44,592
pronunció audazmente
se iban a casar,
77
00:03:44,625 --> 00:03:47,862
lo cual, como sabes, hicieron,
151 días después.
78
00:03:47,895 --> 00:03:50,464
MUJER: ...ahora te pronuncio
marido y mujer.
79
00:03:50,497 --> 00:03:51,933
CAROLINA:
Se mudaron a una linda casa...
80
00:03:51,966 --> 00:03:53,433
-DANIEL: ¡Alce, oye! ¡Ven aquí!
-...y tengo un perro
81
00:03:53,467 --> 00:03:54,936
tan tonto como Daniel.
82
00:03:54,969 --> 00:03:57,872
Mientras tanto, las computadoras
escribir ensayos completos
83
00:03:57,905 --> 00:03:59,707
basado en preguntas simples como,
84
00:03:59,741 --> 00:04:02,777
"Qué difícil sería construir
¿una choza en mi patio trasero?"
85
00:04:03,443 --> 00:04:06,514
Y entonces Daniel construyó una choza
en su patio trasero.
86
00:04:07,380 --> 00:04:10,317
Pero justo cuando se sentó para empezar
trabajando en su próxima película,
87
00:04:10,350 --> 00:04:14,488
aprendió que las computadoras
ahora podía escribir guiones.
88
00:04:15,422 --> 00:04:16,891
Quiero decir, eran malos
89
00:04:16,924 --> 00:04:19,326
pero estaban mejorando
muy rápido.
90
00:04:19,359 --> 00:04:21,929
Podrían crear nuevas imágenes
y vídeos desde cero,
91
00:04:21,963 --> 00:04:25,032
y algunos de ellos
incluso podría aprobar el examen de la abogacía.
92
00:04:25,066 --> 00:04:29,402
No sólo pasar el listón sino
estar en el percentil diez superior.
93
00:04:29,436 --> 00:04:31,038
CAROLINA:
Era confuso.
94
00:04:31,072 --> 00:04:32,607
(suspiros)
95
00:04:32,640 --> 00:04:35,543
Daniel sólo quería
una bicicleta para su mente,
96
00:04:35,576 --> 00:04:39,080
pero las computadoras se habían vuelto
un cohete autónomo.
97
00:04:39,113 --> 00:04:40,648
(silbido)
98
00:04:40,681 --> 00:04:42,517
("Nosotros tenemos el control"
por Neil Young jugando)
99
00:04:42,550 --> 00:04:45,385
Pioneros en el campo
de inteligencia artificial
100
00:04:45,418 --> 00:04:46,821
están suplicando al Congreso
101
00:04:46,854 --> 00:04:48,856
aprobar normas de seguridad
antes de que sea demasiado tarde.
102
00:04:48,890 --> 00:04:50,858
CAROLINE: Ahora me sentí como
el mundo entero
103
00:04:50,892 --> 00:04:53,528
se estaba apresurando hacia algo
sin pensarlo bien,
104
00:04:53,561 --> 00:04:55,830
y todos tenían una opinión.
105
00:04:56,564 --> 00:05:00,635
¿Va a destruir el mundo?
¿o salvar a la humanidad?
106
00:05:00,668 --> 00:05:02,804
Había demasiada información
107
00:05:02,837 --> 00:05:05,106
lo que lo puso ansioso,
lo que puso ansiosa a Caroline...
108
00:05:05,139 --> 00:05:06,541
(grito exasperado)
109
00:05:06,574 --> 00:05:08,042
Todavía no tengo hijos
pero me preocupa
110
00:05:08,075 --> 00:05:10,645
cómo sería el mundo
si lo decido. (risas)
111
00:05:10,678 --> 00:05:12,947
CAROLINA:
Estaba empezando a girar.
112
00:05:12,980 --> 00:05:14,549
(charla confusa)
113
00:05:14,582 --> 00:05:17,685
Se estaba volviendo
una montaña de ansiedad.
114
00:05:19,620 --> 00:05:22,322
-HOMBRE: Es horrible.
-Es la maldita Siri.
115
00:05:23,124 --> 00:05:25,893
CAROLINO:
Y así, Daniel decidió salir
116
00:05:25,927 --> 00:05:28,529
y encontrar a alguien
¿Quién podría explicarle esto?
117
00:05:28,563 --> 00:05:30,631
para que pudiera parar
pensando en ello
118
00:05:30,665 --> 00:05:33,835
y él y Caroline podrían
Continuar con sus vidas.
119
00:05:33,868 --> 00:05:37,437
♪ Tenemos el control,
nosotros tenemos el control ♪
120
00:05:37,470 --> 00:05:39,006
♪ Tenemos el control ♪
121
00:05:39,040 --> 00:05:41,042
♪ Computadora química
batería pensante ♪
122
00:05:41,075 --> 00:05:42,877
♪ Tenemos el control, estamos... ♪
123
00:05:42,910 --> 00:05:45,980
Este esfuerzo resultaría
ser irremediablemente ingenuo
124
00:05:46,013 --> 00:05:49,584
y comienza lo más confuso
año de su vida.
125
00:05:49,617 --> 00:05:50,985
♪ Tenemos el control... ♪
126
00:05:51,018 --> 00:05:53,420
Pero como sabemos,
a veces nos precipitamos en las cosas
127
00:05:53,453 --> 00:05:54,956
sin pensarlo bien.
128
00:05:54,989 --> 00:05:56,791
♪ Computadora química
batería pensando... ♪
129
00:05:56,824 --> 00:05:58,491
Dios mío. ¿Lo que está sucediendo?
130
00:05:58,526 --> 00:06:00,127
CAROLINA:
Tenía preguntas.
131
00:06:00,161 --> 00:06:02,096
Preguntas sólo el
Los nerds más inteligentes podrían responder.
132
00:06:02,129 --> 00:06:04,665
Sometiéndose al interrogador.
133
00:06:04,699 --> 00:06:06,399
CAROLINA:
Preguntas como:
134
00:06:06,433 --> 00:06:09,103
¿Era este el apocalipsis?
o realmente tenía razón
135
00:06:09,136 --> 00:06:10,705
-¿ser optimista?
-Sí.
136
00:06:11,305 --> 00:06:14,407
-♪ Pensamiento químico por computadora
batería. ♪ -(termina la canción)
137
00:06:14,441 --> 00:06:16,677
CAROLINA:
Eh, ¿eso es bueno?
138
00:06:16,711 --> 00:06:18,112
DANIEL:
Sí.
139
00:06:18,145 --> 00:06:20,648
Entonces, para empezar,
140
00:06:20,681 --> 00:06:22,482
¿Qué es la inteligencia artificial?
141
00:06:22,516 --> 00:06:25,152
Sé que debe ser molesto
para ti, esa-esa pregunta,
142
00:06:25,186 --> 00:06:27,021
pero creo que es importante.
143
00:06:27,054 --> 00:06:30,423
Entonces... IA...
144
00:06:30,457 --> 00:06:32,459
(tartamudea) Um...
145
00:06:32,492 --> 00:06:34,161
-Sí...
-Eh, mmm.
146
00:06:34,195 --> 00:06:35,196
(risas):
Esa es una buena pregunta.
147
00:06:35,229 --> 00:06:36,697
-Sí, eh...
-Eh...
148
00:06:36,731 --> 00:06:38,165
DANIEL:
¿Qué es la IA?
149
00:06:38,199 --> 00:06:39,634
(risas)
150
00:06:39,667 --> 00:06:41,035
me encanta eso es
la primera pregunta,
151
00:06:41,068 --> 00:06:43,671
porque no hay
una respuesta clara y coherente.
152
00:06:43,704 --> 00:06:45,740
La inteligencia artificial es
153
00:06:45,773 --> 00:06:51,178
una especie de intencionalmente
y tal vez un término inútilmente amplio.
154
00:06:51,212 --> 00:06:53,781
DAVID EVAN HARRIS:
es una maquina
155
00:06:53,814 --> 00:06:56,083
haciendo cosas que
antes solo pensábamos
156
00:06:56,117 --> 00:06:57,718
que la gente podría hacer:
157
00:06:57,752 --> 00:07:01,656
haciendo recomendaciones,
decisiones y predicciones.
158
00:07:01,689 --> 00:07:07,228
La IA es la aplicación.
de informática
159
00:07:07,261 --> 00:07:09,664
a la resolución de problemas cognitivos.
160
00:07:09,697 --> 00:07:13,768
Bien, entonces cuando me imagino la IA,
161
00:07:13,801 --> 00:07:17,204
es algo así
esta mágica caja de computadora...
162
00:07:17,238 --> 00:07:19,640
♪ ♪
163
00:07:20,708 --> 00:07:24,645
...simplemente, como, flotando
en, como, un espacio inerte.
164
00:07:24,679 --> 00:07:26,847
y no importa
cuantas veces la gente lo intenta
165
00:07:26,881 --> 00:07:30,051
y explícame esto,
Simplemente no entiendo cómo...
166
00:07:30,084 --> 00:07:32,887
cómo se entiende
todas estas cosas
167
00:07:32,920 --> 00:07:36,190
y cómo se siente
inteligencia.
168
00:07:36,223 --> 00:07:37,692
(pitidos, parloteo electrónico)
169
00:07:37,725 --> 00:07:39,927
Y eso es algo así
estresante.
170
00:07:41,729 --> 00:07:46,499
AZA RASKIN: Qué es
¿esta nueva generación de IA?
171
00:07:47,535 --> 00:07:50,638
Esta IA que es diferente a
¿Cada otra generación?
172
00:07:50,671 --> 00:07:53,040
Como, nadie nunca
habló de, como,
173
00:07:53,074 --> 00:07:57,545
Siri conquistando el mundo
o provocar catástrofes.
174
00:07:57,578 --> 00:07:59,080
-MUJER: ¿Hola, Siri?
-HOMBRE: ...quiero.
175
00:07:59,113 --> 00:08:01,115
MUJER:
Hola? ¿Siri?
176
00:08:01,148 --> 00:08:02,984
¿Hola? ¡Oye, Siri!
177
00:08:03,017 --> 00:08:06,253
O la voz en Google Maps,
que pronuncia mal los nombres de las carreteras,
178
00:08:06,287 --> 00:08:07,888
como, romper la sociedad.
179
00:08:07,922 --> 00:08:10,992
HOMBRE: Google Maps dice
este es un camino.
180
00:08:11,025 --> 00:08:13,627
(riendo):
Pero creo que estoy en un río.
181
00:08:13,661 --> 00:08:14,996
Este es definitivamente un río
¿no?
182
00:08:15,029 --> 00:08:17,898
algo cambió
con ChatGPT saliendo.
183
00:08:18,532 --> 00:08:20,568
La gente entendió... no, no, no...
184
00:08:20,601 --> 00:08:21,869
esta tecnología
increíblemente valioso,
185
00:08:21,902 --> 00:08:24,005
es increíblemente poderoso
y también increíblemente aterrador.
186
00:08:24,038 --> 00:08:25,940
Bien, escucha esto.
Muy espeluznante.
187
00:08:25,973 --> 00:08:28,976
Una nueva inteligencia artificial
La herramienta se está volviendo viral.
188
00:08:29,010 --> 00:08:32,980
por producir ensayos completos
en cuestión de segundos.
189
00:08:36,217 --> 00:08:41,722
La IA eclipsa el poder de todos
otras tecnologías combinadas.
190
00:08:41,756 --> 00:08:44,058
DANIEL:
"La IA eclipsa el poder
191
00:08:44,091 --> 00:08:46,827
de todas las demás tecnologías
combinados."
192
00:08:46,861 --> 00:08:47,762
Sí.
193
00:08:47,795 --> 00:08:49,230
¿Crees que eso es verdad?
194
00:08:49,263 --> 00:08:51,265
Sí.
195
00:08:51,298 --> 00:08:53,567
Cuéntame sobre... ¿Cómo? ¿Cómo?
196
00:08:53,601 --> 00:08:57,038
Creo que para pintar ese cuadro,
es realmente importante
197
00:08:57,071 --> 00:09:01,175
para entender lo que es hoy
sistemas de última generación
198
00:09:01,208 --> 00:09:02,777
cómo se ven y cómo están construidos.
199
00:09:02,810 --> 00:09:06,280
(risas) Esto es
Todo un... todo un montaje.
200
00:09:06,313 --> 00:09:07,782
Entonces, una cosa que
201
00:09:07,815 --> 00:09:10,051
no mucha gente
darme cuenta es que
202
00:09:10,084 --> 00:09:14,221
sistemas como ChatGPT no lo son
programado por cualquier humano.
203
00:09:14,255 --> 00:09:15,756
¿Qué quieres decir?
204
00:09:15,790 --> 00:09:17,625
En cambio, es algo así como
Ya han crecido.
205
00:09:17,658 --> 00:09:19,727
Les damos algo así
recursos crudos, como,
206
00:09:19,760 --> 00:09:21,629
"Aquí hay un montón de
recursos computacionales.
207
00:09:21,662 --> 00:09:22,730
Aquí hay muchos datos".
208
00:09:22,763 --> 00:09:24,165
Debajo del capó, son matemáticas.
209
00:09:24,198 --> 00:09:27,668
y las matemáticas son en realidad
sorprendentemente sencillo.
210
00:09:27,701 --> 00:09:31,672
DANIEL: Entonces ChatGPT es una especie
de la IA pero no es toda la IA?
211
00:09:31,705 --> 00:09:33,207
Totalmente. ChatGPT es
solo el comienzo,
212
00:09:33,240 --> 00:09:34,675
pero es un buen punto de partida.
213
00:09:34,708 --> 00:09:38,145
Pero todavía no lo sé
qué es la IA.
214
00:09:38,179 --> 00:09:40,848
Para entender la IA,
comienza con la comprensión
215
00:09:40,881 --> 00:09:43,717
que la inteligencia se trata
reconocer patrones.
216
00:09:43,751 --> 00:09:45,186
-Patrones. -Patrones.
-Patrones.
217
00:09:45,219 --> 00:09:48,956
COTRA: Se muestra
billones de palabras de texto
218
00:09:48,989 --> 00:09:51,826
en millones de documentos
en Internet.
219
00:09:51,859 --> 00:09:53,127
RÁNDIMA FERNANDO:
Comenzó con texto.
220
00:09:53,160 --> 00:09:56,197
Y lo que hicieron fue
se llevaron los libros de texto,
221
00:09:56,230 --> 00:09:59,967
y se llevaron poemas y ensayos
y manuales de instrucciones.
222
00:10:00,000 --> 00:10:01,368
DAVID EVAN HARRIS:
Pueden hacer cosas como
223
00:10:01,402 --> 00:10:03,370
digerir todo Internet,
224
00:10:03,404 --> 00:10:07,108
cada palabra que alguna vez
sido escrito por una persona.
225
00:10:07,141 --> 00:10:10,244
Hilos de Reddit y redes sociales
y toda Wikipedia.
226
00:10:10,277 --> 00:10:14,048
Más datos de los que nadie podría
leído alguna vez en varias vidas.
227
00:10:14,081 --> 00:10:15,950
Y le dieron este sistema.
un trabajo.
228
00:10:15,983 --> 00:10:18,953
Descubra los patrones y
estructura de esa información
229
00:10:18,986 --> 00:10:21,122
y usa eso
hacer predicciones sobre
230
00:10:21,155 --> 00:10:23,791
¿Qué palabra debería venir después?
en una oración.
231
00:10:23,824 --> 00:10:25,426
cuando dices
"patrones en una oración",
232
00:10:25,459 --> 00:10:27,128
¿De qué estás hablando?
233
00:10:27,161 --> 00:10:29,864
Entonces, es todo, desde, como,
las cosas realmente simples,
234
00:10:29,897 --> 00:10:32,266
como terminan la mayoría de las oraciones
con un punto,
235
00:10:32,299 --> 00:10:35,402
todo el camino hasta el
cosas más conceptuales, como:
236
00:10:35,436 --> 00:10:37,138
¿Qué es un soneto?
237
00:10:37,171 --> 00:10:39,039
Es un tipo de poema, y tiene
alguna estructura particular.
238
00:10:39,707 --> 00:10:41,809
RASKIN:
Entonces, luego mira
239
00:10:41,842 --> 00:10:44,011
todos esos datos,
todo ese texto...
240
00:10:44,044 --> 00:10:46,313
COTRA: Y más de billones
y billones de intentos
241
00:10:46,347 --> 00:10:49,150
cada vez que consigue algo
bien o mal,
242
00:10:49,183 --> 00:10:51,819
se da un poquito
de refuerzo positivo
243
00:10:51,852 --> 00:10:53,888
cuando adivina
la siguiente palabra correctamente,
244
00:10:53,921 --> 00:10:56,090
y se le da un poquito
de refuerzo negativo
245
00:10:56,123 --> 00:10:58,926
cuando adivina
la siguiente palabra incorrectamente.
246
00:10:59,727 --> 00:11:02,029
Y al final,
tienes un sistema que
247
00:11:02,062 --> 00:11:05,332
habla muy bien ingles
como efecto secundario
248
00:11:05,366 --> 00:11:07,168
de ser realmente, realmente bueno
en predecir
249
00:11:07,201 --> 00:11:09,103
la palabra que viene a continuación
en un fragmento de texto.
250
00:11:09,136 --> 00:11:11,972
(voz automatizada
hablando francés)
251
00:11:12,006 --> 00:11:14,308
Utiliza todos esos patrones.
ha aprendido
252
00:11:14,341 --> 00:11:16,277
poder hacer
una predicción sobre
253
00:11:16,310 --> 00:11:17,811
cuál debería ser la respuesta
254
00:11:17,845 --> 00:11:19,180
entonces te da eso
como salida.
255
00:11:19,213 --> 00:11:21,482
VOZ AUTOMATIZADA:
Está un poco simplificado,
256
00:11:21,516 --> 00:11:23,717
pero creo que la gente lo entenderá.
257
00:11:23,751 --> 00:11:25,252
Entonces, ¿eso es todo lo que hace?
258
00:11:25,286 --> 00:11:27,354
Sí. No parece
sería así de complicado,
259
00:11:27,388 --> 00:11:28,489
pero en realidad tienes que saber
260
00:11:28,523 --> 00:11:30,057
una gran cantidad de cosas
261
00:11:30,090 --> 00:11:32,092
para
Realmente tengo éxito en eso.
262
00:11:32,793 --> 00:11:34,461
RASKIN:
Si dices a ChatGPT,
263
00:11:34,495 --> 00:11:37,131
"Escríbeme un Shakespeare
soneto sobre mi perro",
264
00:11:37,164 --> 00:11:39,166
tiene que saber qué son los perros.
265
00:11:39,200 --> 00:11:40,935
-Tiene que saber lo que amas
sobre tu perro. -(ladrando)
266
00:11:40,968 --> 00:11:43,304
Tiene que saber
quién es Shakespeare
267
00:11:43,337 --> 00:11:46,040
ese soneto rima,
que tengan una estructura,
268
00:11:46,073 --> 00:11:48,342
que las palabras tienen sonidos
Eso puede rimar.
269
00:11:48,375 --> 00:11:49,843
Se necesita mucho.
270
00:11:49,877 --> 00:11:51,212
(voces superpuestas
en varios idiomas)
271
00:11:51,245 --> 00:11:53,280
Mierda, puedes hablar
a tu computadora ahora.
272
00:11:53,314 --> 00:11:56,350
Eso simplemente no era cierto
hace tres años.
273
00:11:56,383 --> 00:11:58,085
RASKIN: Sí, y esto es
la parte realmente importante.
274
00:11:58,118 --> 00:12:01,055
El mismo proceso que permite a la IA
275
00:12:01,088 --> 00:12:03,490
descubrir y manipular
los patrones del texto
276
00:12:03,525 --> 00:12:06,160
es el mismo proceso
que le permite descubrir
277
00:12:06,193 --> 00:12:10,231
los patrones de todo
universo y todo lo que hay en él.
278
00:12:10,831 --> 00:12:13,234
FERNANDO: Hay patrones
e imágenes y sonido
279
00:12:13,267 --> 00:12:16,470
en código informático y ADN
y la música y la física
280
00:12:16,504 --> 00:12:18,973
y diseño de moda y construcción
281
00:12:19,006 --> 00:12:22,042
(distorsionado): y en
voces humanas y rostros humanos,
282
00:12:22,076 --> 00:12:24,245
(normalmente):
realmente, verdaderamente en todas partes.
283
00:12:24,278 --> 00:12:26,347
-En todas partes. -En todos lados.
-En todos lados. -En todos lados.
284
00:12:26,380 --> 00:12:28,182
si has aprendido
esos patrones,
285
00:12:28,215 --> 00:12:30,117
puedes generar
nuevos tipos de canciones.
286
00:12:30,150 --> 00:12:31,785
Puedes generar nuevos vídeos.
287
00:12:31,819 --> 00:12:33,087
Y por eso, si le das
288
00:12:33,120 --> 00:12:35,322
una grabación de tres segundos
de tu abuela,
289
00:12:35,356 --> 00:12:37,224
Puede responder con su voz.
290
00:12:37,258 --> 00:12:38,092
Ay dios mío.
291
00:12:38,125 --> 00:12:41,061
(repitiendo):
Oh, Dios mío. Dios mío.
292
00:12:41,095 --> 00:12:43,397
¿Qué pensarán a continuación?
293
00:12:43,430 --> 00:12:44,532
Se está moviendo muy, muy rápido.
294
00:12:44,566 --> 00:12:46,400
Una startup estadounidense de IA
295
00:12:46,433 --> 00:12:48,068
ha lanzado su último modelo.
296
00:12:48,102 --> 00:12:51,171
Esa empresa es Antrópica,
y acaba de desvelarse
297
00:12:51,205 --> 00:12:54,174
las últimas versiones
de su asistente de IA, Claude.
298
00:12:54,208 --> 00:12:57,411
GLENN BECK: Entonces, el equipo xAI
estaba allí para presentar Grok 4.
299
00:12:57,444 --> 00:13:00,414
HOMBRE: Google lanzó uno
apenas la semana pasada. Géminis es...
300
00:13:00,447 --> 00:13:03,417
Hemos pasado de GPT-2
hace apenas un par de años,
301
00:13:03,450 --> 00:13:06,020
que apenas podía escribir
un párrafo coherente,
302
00:13:06,053 --> 00:13:08,322
a GPT-4,
que puede aprobar el examen de la barra.
303
00:13:08,355 --> 00:13:10,924
Y todo lo que tenían que hacer
para llegar allí
304
00:13:10,958 --> 00:13:13,294
esencialmente fue agregar más datos
y más cálculo.
305
00:13:13,327 --> 00:13:16,897
-Estas personas que son
construyendo esto... -COTRA: Sí.
306
00:13:16,930 --> 00:13:18,332
...simplemente están tirando más...
307
00:13:18,365 --> 00:13:22,236
Más computadoras físicas,
más del mismo tipo de datos.
308
00:13:22,269 --> 00:13:25,039
Porque cuanto más
potencia de cálculo que agregas,
309
00:13:25,072 --> 00:13:28,375
cuanto más complejo
tareas intelectuales que pueden realizar.
310
00:13:28,409 --> 00:13:30,444
Entonces, cuantos más datos meteorológicos
tú lo das,
311
00:13:30,477 --> 00:13:32,446
mejor puede
hacer predicciones sobre
312
00:13:32,479 --> 00:13:34,448
dónde podría llegar un huracán.
313
00:13:34,481 --> 00:13:36,584
RASKIN: Y cuantos más patrones
de tumores y huesos
314
00:13:36,618 --> 00:13:39,253
y tejidos que una IA ha visto,
entonces más capaz será
315
00:13:39,286 --> 00:13:42,489
para detectar un tumor
en una nueva tomografía computarizada.
316
00:13:42,524 --> 00:13:44,124
Mejor incluso que un médico humano.
317
00:13:44,158 --> 00:13:47,328
IA que ya está siendo
desplegado para el ejército
318
00:13:47,361 --> 00:13:49,463
ya puedo usar
imágenes de satélite,
319
00:13:49,496 --> 00:13:52,199
movimientos de tropas, comunicaciones
para determinar,
320
00:13:52,232 --> 00:13:53,934
-a veces con días de antelación,
-(sirena de defensa civil a todo volumen)
321
00:13:53,967 --> 00:13:55,336
donde un ataque
va a suceder,
322
00:13:55,369 --> 00:13:57,605
como donde un enemigo
va a hacer huelga.
323
00:13:57,639 --> 00:14:00,007
TRISTAN HARRIS: Todo esto
el espacio se mueve muy rápido
324
00:14:00,040 --> 00:14:02,142
que cualquier ejemplo
pones en esta película
325
00:14:02,176 --> 00:14:05,112
se sentirá absolutamente torpe
para cuando salga.
326
00:14:05,145 --> 00:14:07,348
(pitido, clic)
327
00:14:09,950 --> 00:14:11,653
-(aplausos)
-(se reproduce música alegre)
328
00:14:11,686 --> 00:14:14,421
RASKIN:
Estos modelos están siendo lanzados
329
00:14:14,455 --> 00:14:17,391
antes de que nadie lo sepa
de lo que son capaces.
330
00:14:17,424 --> 00:14:22,896
GPT-3.5 fue lanzado y disponible
a más de 100 millones de personas
331
00:14:22,930 --> 00:14:26,333
ante algunos investigadores
descubrí que podía funcionar
332
00:14:26,367 --> 00:14:29,203
química de grado de investigación
mejor que los modelos
333
00:14:29,236 --> 00:14:33,240
que fueron entrenados específicamente
hacer química de grado de investigación.
334
00:14:33,273 --> 00:14:36,009
algo esta pasando ahi dentro
que la gente
335
00:14:36,043 --> 00:14:38,546
quienes los estan construyendo
No lo entiendo del todo.
336
00:14:38,580 --> 00:14:41,348
Básicamente, solo analiza
los datos por sí solos,
337
00:14:41,382 --> 00:14:45,419
y mientras lo hace,
simplemente se aprende solo
338
00:14:45,452 --> 00:14:48,355
varias cosas
que muchas veces no era nuestra intención.
339
00:14:48,389 --> 00:14:50,324
Entonces, por ejemplo,
se lee mucho en línea
340
00:14:50,357 --> 00:14:53,127
y luego, en algún momento, simplemente
aprende a hacer aritmética.
341
00:14:53,160 --> 00:14:54,662
NIÑOS:
Uno, dos.
342
00:14:54,696 --> 00:14:56,463
HENDRYCKS: Y luego en
en algún momento, comienza a aprender
343
00:14:56,497 --> 00:14:59,099
cómo responder
preguntas de física avanzada.
344
00:14:59,133 --> 00:15:01,268
Nosotros no programamos eso
en él en absoluto.
345
00:15:01,301 --> 00:15:03,203
Simplemente aprendió por sí solo.
346
00:15:05,640 --> 00:15:07,709
TRISTÁN HARRIS:
Una IA es como un cerebro digital.
347
00:15:07,742 --> 00:15:09,176
Pero al igual que un cerebro humano,
348
00:15:09,209 --> 00:15:11,078
si hicieras un escáner cerebral
en un cerebro humano,
349
00:15:11,111 --> 00:15:13,447
sabrías todo
esa persona era capaz de?
350
00:15:13,480 --> 00:15:15,482
No puedes saber eso
sólo por el escáner cerebral.
351
00:15:15,517 --> 00:15:18,318
Es solo como,
un montón de números y, como,
352
00:15:18,352 --> 00:15:20,522
las multiplicaciones que son
sucediendo eso-eso, como,
353
00:15:20,555 --> 00:15:22,524
el mejor aprendizaje automático
investigador en el mundo
354
00:15:22,557 --> 00:15:25,159
podría mirar y, como, tener
no tenía idea de lo que estaba pasando.
355
00:15:31,398 --> 00:15:33,200
DANIEL:
Esa silla de ahí.
356
00:15:33,233 --> 00:15:35,469
-¿Te parece bien?
-Sí.
357
00:15:36,136 --> 00:15:38,172
DANIEL: Entonces,
eso es algo alucinante.
358
00:15:38,205 --> 00:15:39,440
¿Bueno? Como si se estuviera apoderando
el mundo,
359
00:15:39,473 --> 00:15:41,609
y ni siquiera lo sabemos
cómo funciona.
360
00:15:41,643 --> 00:15:43,477
-¿Es así?
-Mmm.
361
00:15:43,511 --> 00:15:47,381
entendemos
una serie de cosas importantes,
362
00:15:47,414 --> 00:15:51,051
pero no tenemos
una muy buena comprensión de
363
00:15:51,084 --> 00:15:53,521
por qué proporcionan
respuestas específicas a las preguntas.
364
00:15:53,555 --> 00:15:58,992
Es un problema porque estamos
en un camino t-para construir máquinas,
365
00:15:59,026 --> 00:16:03,531
basado en estos principios,
que podría ser más inteligente que nosotros
366
00:16:03,565 --> 00:16:07,067
y por lo tanto potencialmente tener
mucho poder.
367
00:16:12,774 --> 00:16:15,610
Uno de los más citados.
informáticos de la historia.
368
00:16:15,643 --> 00:16:17,545
SUTSKEVER: En realidad lo encuentro
un poco difícil
369
00:16:17,579 --> 00:16:19,079
para hablar de mi propio papel.
370
00:16:19,112 --> 00:16:21,448
Realmente prefiero
cuando otras personas lo hacen.
371
00:16:21,482 --> 00:16:24,351
La unión de Ilya fue la...
fue-fue el eje de
372
00:16:24,384 --> 00:16:26,086
OpenAI siendo
finalmente exitoso.
373
00:16:26,119 --> 00:16:27,522
Creo que simplemente va a ser
374
00:16:27,555 --> 00:16:31,158
una especie de vasto y dramático
y un impacto inimaginable.
375
00:16:31,191 --> 00:16:33,327
No sé si has gastado
en cualquier momento en YouTube,
376
00:16:33,360 --> 00:16:35,563
pero puedes sentir algo así
la velocidad ya no?
377
00:16:35,597 --> 00:16:36,764
¿Usted sabe lo que quiero decir?
378
00:16:36,798 --> 00:16:38,633
SHANE LEGG:
Este es sólo el calentamiento.
379
00:16:38,666 --> 00:16:41,068
Los sistemas realmente poderosos
todavía vienen,
380
00:16:41,101 --> 00:16:43,136
y ellos van a venir
muy pronto.
381
00:16:48,408 --> 00:16:52,145
AGI significa "artificial
inteligencia general."
382
00:16:52,179 --> 00:16:54,481
Uh, sistemas que son
básicamente...
383
00:16:58,553 --> 00:17:00,755
Y esto es como, ya sabes,
parece ser como,
384
00:17:00,788 --> 00:17:03,525
¿El santo grial de la IA?
385
00:17:03,558 --> 00:17:05,527
Cuando puedes simular
una mente humana
386
00:17:05,560 --> 00:17:08,362
eso es hacer cognición humana
y puedo razonar,
387
00:17:08,395 --> 00:17:11,398
ese es un nuevo tipo de nivel de IA
388
00:17:11,431 --> 00:17:14,602
que tenemos que distinguir
de la IA anterior.
389
00:17:14,636 --> 00:17:16,804
Cuando eso suceda,
por cierto, fue entonces cuando
390
00:17:16,838 --> 00:17:21,475
contratarías a uno de
esos AGI en lugar de una persona.
391
00:17:21,509 --> 00:17:25,112
La mayoría de los empleos en nuestra economía
puede hacerlo.
392
00:17:25,145 --> 00:17:26,380
Puede funcionar las 24 horas del día,
393
00:17:26,413 --> 00:17:28,550
nunca se cansa,
nunca se aburre.
394
00:17:28,583 --> 00:17:30,552
No necesitan dormir.
No necesitan descansos.
395
00:17:30,585 --> 00:17:32,352
Son como,
No me uniré a un sindicato.
396
00:17:32,386 --> 00:17:34,388
No me quejaré
no denunciará.
397
00:17:34,421 --> 00:17:36,290
Más de 100 veces más barato
398
00:17:36,323 --> 00:17:38,593
que los humanos trabajando
a m-salario mínimo.
399
00:17:38,626 --> 00:17:40,127
No sólo serán
haciendo todo,
400
00:17:40,160 --> 00:17:41,428
pero lo harán más rápido.
401
00:17:41,461 --> 00:17:43,463
TRISTÁN HARRIS:
La misma inteligencia
402
00:17:43,497 --> 00:17:45,700
ese poder que también puede mirar
en los patrones y movimientos
403
00:17:45,733 --> 00:17:48,335
y músculos articuladores
y, ya sabes, la robótica.
404
00:17:48,368 --> 00:17:50,672
Y entonces no es solo
Automatizaremos los trabajos de escritorio.
405
00:17:50,705 --> 00:17:52,272
Eso es sólo el comienzo.
406
00:17:52,306 --> 00:17:56,176
Se automatizará
todo trabajo físico.
407
00:17:56,209 --> 00:17:57,444
LEIKE:
No hay manera
408
00:17:57,477 --> 00:17:59,714
los humanos van a competir
con ellos.
409
00:17:59,747 --> 00:18:02,149
♪ ♪
410
00:18:05,853 --> 00:18:09,791
Es difícil conceptualizar
el impacto de la AGI.
411
00:18:09,824 --> 00:18:11,458
(charla electrónica)
412
00:18:11,491 --> 00:18:13,360
Pero creo que así será
algo muy grande
413
00:18:13,393 --> 00:18:16,129
y drástico y radical.
414
00:18:17,599 --> 00:18:19,466
DANIEL: ¿Crees?
este es uno de los más
415
00:18:19,499 --> 00:18:21,368
momentos trascendentales
en la historia de la humanidad?
416
00:18:21,401 --> 00:18:23,638
Sí. Sí, eso es--
Quiero decir, ¿qué más sería?
417
00:18:23,671 --> 00:18:25,740
Quiero decir, hay
la Revolución Industrial.
418
00:18:25,773 --> 00:18:27,742
MALO BOURGON: Sabes,
hacer la Revolución Industrial
419
00:18:27,775 --> 00:18:29,476
parecen frijoles pequeños.
420
00:18:30,177 --> 00:18:32,547
TRISTÁN HARRIS:
AGI es un punto de inflexión
421
00:18:32,580 --> 00:18:34,481
porque significa
puedes acelerar
422
00:18:34,515 --> 00:18:37,652
todos los demás campos intelectuales
todo al mismo tiempo.
423
00:18:38,285 --> 00:18:40,354
Me gusta, si haces un avance
en cohetes,
424
00:18:40,387 --> 00:18:42,657
eso no avanza
biología y medicina.
425
00:18:44,391 --> 00:18:46,159
Si haces un anticipo
en medicina,
426
00:18:46,193 --> 00:18:47,729
Eso no hace avanzar los cohetes.
427
00:18:48,328 --> 00:18:51,633
Pero si haces un avance
en inteligencia artificial,
428
00:18:51,666 --> 00:18:54,736
que avanza todo lo científico
y campos tecnológicos
429
00:18:54,769 --> 00:18:56,236
todo al mismo tiempo.
430
00:18:56,269 --> 00:18:57,505
Por eso, durante mucho tiempo,
431
00:18:57,538 --> 00:18:59,574
Google DeepMind
La declaración de misión fue...
432
00:18:59,607 --> 00:19:01,441
-Paso uno, resolver la inteligencia.
-LEX FRIDMAN: Sí.
433
00:19:01,475 --> 00:19:03,377
-Paso dos, úsalo para resolver.
todo lo demás. -Sí.
434
00:19:03,410 --> 00:19:05,580
Es por eso que la IA eclipsa el poder
435
00:19:05,613 --> 00:19:07,949
de todas las demás tecnologías
combinado.
436
00:19:07,982 --> 00:19:09,517
Lo transformará todo.
437
00:19:09,550 --> 00:19:11,385
Entonces, uh, será
al menos tan grande como
438
00:19:11,418 --> 00:19:14,321
la revolución industrial,
posiblemente, ya sabes, más grande,
439
00:19:14,354 --> 00:19:16,658
más como el advenimiento
de electricidad o incluso fuego.
440
00:19:16,691 --> 00:19:19,259
NARRADOR DEL VIDEO:
El cavernícola literalmente sostenido en alto
441
00:19:19,292 --> 00:19:22,362
la antorcha de la civilización.
442
00:19:24,297 --> 00:19:25,733
KOKOTAJLO:
En general se piensa que
443
00:19:25,767 --> 00:19:28,569
alrededor de la época de AGI,
Tendremos IA que puedan
444
00:19:28,603 --> 00:19:31,806
hacer todo o la mayor parte de
el proceso de investigación de la IA
445
00:19:31,839 --> 00:19:34,942
y, por supuesto, puedo hacerlo
más rápido y más barato.
446
00:19:34,976 --> 00:19:36,410
(pitido)
447
00:19:36,443 --> 00:19:37,679
LEIKE:
Puede copiarse a sí mismo.
448
00:19:37,712 --> 00:19:39,681
Mil veces,
un millón de veces
449
00:19:39,714 --> 00:19:41,683
y, como,
ahora tienes un millón de copias
450
00:19:41,716 --> 00:19:43,818
todos trabajando en paralelo.
451
00:19:43,851 --> 00:19:47,220
RASKIN: Cuando aprende
cómo hacer que su código sea más rápido,
452
00:19:47,254 --> 00:19:49,289
hacer que su código sea más eficiente,
453
00:19:49,322 --> 00:19:51,693
obviamente eso se convierte en, como,
Un bucle fuera de control.
454
00:19:51,726 --> 00:19:53,795
AGI no es el final.
455
00:19:53,828 --> 00:19:55,429
Es sólo el comienzo.
456
00:19:55,462 --> 00:19:58,498
es el comienzo de
una explosión increíblemente rápida
457
00:19:58,533 --> 00:20:00,500
del progreso científico,
458
00:20:00,535 --> 00:20:02,603
y en particular,
Progreso científico en IA.
459
00:20:02,637 --> 00:20:04,906
Y cuando son más inteligentes
que nosotros también
460
00:20:04,939 --> 00:20:06,641
y sustancialmente más rápido
que nosotros,
461
00:20:06,674 --> 00:20:08,910
y son cada vez más rápidos
cada año, exponencialmente,
462
00:20:08,943 --> 00:20:12,747
esos son los que pueden
potencialmente convertirse en sobrehumano,
463
00:20:12,780 --> 00:20:14,882
uh, posiblemente esta década.
464
00:20:14,916 --> 00:20:16,416
Lo siento, dijiste
465
00:20:16,450 --> 00:20:18,786
"conviértete en sobrehumano,
tal vez en esta década"?
466
00:20:18,820 --> 00:20:22,489
Sí. Quiero decir, creo que, eh,
mucha gente que esta
467
00:20:22,523 --> 00:20:24,826
realmente construyendo este pensamiento
que eso es bastante plausible
468
00:20:24,859 --> 00:20:26,828
que conseguimos
algo de superinteligencia,
469
00:20:26,861 --> 00:20:29,296
algo que es enormemente
más inteligente que las personas,
470
00:20:29,329 --> 00:20:31,331
dentro de esta década.
471
00:20:31,364 --> 00:20:33,433
La forma en que defino
"superinteligencia" es
472
00:20:33,467 --> 00:20:35,636
un sistema que por sí solo es
473
00:20:35,670 --> 00:20:37,905
más inteligente y competente
que toda la humanidad.
474
00:20:37,939 --> 00:20:40,273
Sólo voy a... lo siento.
No quiero interrumpirte.
475
00:20:40,307 --> 00:20:41,743
Estás fluyendo.
476
00:20:41,776 --> 00:20:43,578
Uh, yo sólo, yo sólo...
477
00:20:43,611 --> 00:20:45,580
Realmente no te sigo
porque estás usando el lenguaje
478
00:20:45,613 --> 00:20:47,347
como "superinteligencia"
y, como,
479
00:20:47,380 --> 00:20:50,450
"más inteligente que toda la humanidad",
y escucho eso,
480
00:20:50,484 --> 00:20:52,787
y suena como...
para mí como una mierda de ciencia ficción,
481
00:20:52,820 --> 00:20:54,756
y solo estoy intentando
para entender.
482
00:20:54,789 --> 00:20:56,891
no hay nada magico
sobre la inteligencia.
483
00:20:56,924 --> 00:20:58,793
Esto es muy importante,
es que, ya sabes,
484
00:20:58,826 --> 00:21:00,828
la inteligencia puede parecer mágica,
puede sentirse como
485
00:21:00,862 --> 00:21:03,865
alguna cosa mística
en tu mente o algo así,
486
00:21:03,898 --> 00:21:06,033
pero es sólo cálculo.
487
00:21:06,067 --> 00:21:10,037
LEGG: El cerebro humano es
bastante limitado en algunos aspectos
488
00:21:10,071 --> 00:21:12,707
en términos de información
capacidad de procesamiento,
489
00:21:12,740 --> 00:21:15,610
comparado con lo que vemos
en, digamos, un centro de datos.
490
00:21:15,643 --> 00:21:18,679
Así, por ejemplo,
las señales que se envían
491
00:21:18,713 --> 00:21:22,884
dentro de tu cerebro, se mueven
a unos 30 metros por segundo.
492
00:21:22,917 --> 00:21:24,652
-(truenos)
-Pero la velocidad de la luz,
493
00:21:24,685 --> 00:21:27,655
que es lo que usa una computadora
en fibra óptica,
494
00:21:27,688 --> 00:21:30,057
son 300 millones de metros
por segundo.
495
00:21:30,691 --> 00:21:34,796
Y así sería
algo extraño si
496
00:21:34,829 --> 00:21:37,497
la inteligencia humana era
de alguna manera realmente especial
497
00:21:37,532 --> 00:21:41,468
en ese sentido
y es de alguna manera un límite superior
498
00:21:41,502 --> 00:21:43,403
de lo que es posible
en inteligencia.
499
00:21:43,436 --> 00:21:47,675
Creo que, una vez que entendamos cómo
para construir sistemas inteligentes,
500
00:21:47,708 --> 00:21:50,945
podremos construir
máquinas enormes,
501
00:21:50,978 --> 00:21:55,082
que estará mucho más allá
inteligencia humana normal.
502
00:21:55,116 --> 00:21:58,953
Uh, ojalá podamos tener
una relación muy simbiótica,
503
00:21:58,986 --> 00:22:01,689
uh, con sistemas de inteligencia artificial,
pero los desarrolladores de IA son
504
00:22:01,722 --> 00:22:04,025
diseñándolos específicamente
para asegurarse de que puedan hacer
505
00:22:04,058 --> 00:22:05,827
todo mejor de lo que podemos,
así que no lo sé
506
00:22:05,860 --> 00:22:08,663
que-que seremos capaces
ofrecer, lamentablemente.
507
00:22:08,696 --> 00:22:10,565
La-la-escuela mayor
Tecnología de IA...
508
00:22:10,598 --> 00:22:12,900
CAROLINE: Daniel no lo es
sentirse mejor.
509
00:22:12,934 --> 00:22:14,769
Su plan está fracasando.
510
00:22:14,802 --> 00:22:17,705
Cuanto más aprende sobre
este nuevo y poderoso
511
00:22:17,738 --> 00:22:19,607
cosa inescrutable,
peor suena.
512
00:22:19,640 --> 00:22:21,742
Quiere decírselo
qué miedo tiene
513
00:22:21,776 --> 00:22:24,812
cómo se siente como es la tierra
deslizándose debajo de él,
514
00:22:24,846 --> 00:22:27,548
que está mirando hacia abajo
miedo existencial,
515
00:22:27,582 --> 00:22:29,851
así articula esto
diciendo...
516
00:22:29,884 --> 00:22:31,384
Eso suena mal.
517
00:22:31,418 --> 00:22:32,753
(Hendrycks se ríe)
518
00:22:32,787 --> 00:22:34,622
Sí.
519
00:22:36,090 --> 00:22:38,793
LADISH: Si tienes
todas estas capacidades
520
00:22:38,826 --> 00:22:41,394
y empiezan a poder
para planificar mejor
521
00:22:41,428 --> 00:22:43,898
si tomas eso
hasta su conclusión lógica,
522
00:22:43,931 --> 00:22:46,868
puedes conseguir algo bonito
comportamiento de búsqueda de poder.
523
00:22:46,901 --> 00:22:49,003
(trino electrónico)
524
00:22:49,036 --> 00:22:50,905
(pitidos pulsantes)
525
00:22:55,810 --> 00:22:58,145
DANIEL:
Bien, entonces ¿por qué una IA
526
00:22:58,179 --> 00:22:59,680
¿Quieres más potencia?
527
00:22:59,714 --> 00:23:02,683
Sí. Entonces, creo
en realidad es bastante simple.
528
00:23:02,717 --> 00:23:05,418
Tener más poder es
una estrategia muy efectiva
529
00:23:05,452 --> 00:23:06,888
por lograr
casi cualquier objetivo.
530
00:23:06,921 --> 00:23:09,523
Hicimos un experimento
donde dimos
531
00:23:09,557 --> 00:23:12,492
El más poderoso de OpenAI
Modelo de IA, eh,
532
00:23:12,526 --> 00:23:13,828
una serie de problemas a resolver.
533
00:23:13,861 --> 00:23:15,696
Y a mitad de camino,
en su computadora,
534
00:23:15,730 --> 00:23:19,033
recibió una notificación que
iba a ser cerrado.
535
00:23:19,066 --> 00:23:21,502
Y lo que hizo fue
reescribió ese código
536
00:23:21,535 --> 00:23:22,904
para prevenirse
de ser cerrado
537
00:23:22,937 --> 00:23:25,940
para que pudiera terminar
resolviendo los problemas.
538
00:23:25,973 --> 00:23:28,209
-Bueno. -Sí. Entonces, otro
uno realmente interesante
539
00:23:28,242 --> 00:23:31,646
es que la empresa de IA Anthropic
540
00:23:31,679 --> 00:23:35,516
hizo un entorno simulado
donde esa IA tenía acceso
541
00:23:35,549 --> 00:23:36,851
a todos los correos electrónicos de la empresa.
542
00:23:36,884 --> 00:23:39,086
Y aprendió a través
leyendo esos correos electrónicos
543
00:23:39,120 --> 00:23:40,755
iba a ser reemplazado
544
00:23:40,788 --> 00:23:43,991
y el ingeniero jefe
quien fue el responsable de esto
545
00:23:44,025 --> 00:23:46,027
También estaba teniendo una aventura.
546
00:23:46,060 --> 00:23:48,529
Y por sí solo,
usó esa información
547
00:23:48,562 --> 00:23:49,931
chantajear al ingeniero
548
00:23:49,964 --> 00:23:52,600
para prevenirse
de ser reemplazado.
549
00:23:52,633 --> 00:23:54,135
Fue como,
"No, no voy a ser reemplazado.
550
00:23:54,168 --> 00:23:57,538
"Si me reemplazas,
voy a decirle al mundo
551
00:23:57,571 --> 00:23:59,507
que estas teniendo
este asunto."
552
00:24:00,174 --> 00:24:01,842
¿Y nadie le enseñó a hacer eso?
553
00:24:01,876 --> 00:24:03,978
No, aprendió a hacer eso.
por sí solo.
554
00:24:05,112 --> 00:24:08,049
A medida que los modelos se vuelven más inteligentes,
aprenden que estos son
555
00:24:08,082 --> 00:24:10,918
formas efectivas
para lograr objetivos.
556
00:24:10,952 --> 00:24:13,120
Y esto no es un problema
eso está aislado de un modelo.
557
00:24:13,154 --> 00:24:16,190
Todos los modelos más potentes.
mostrar estos comportamientos.
558
00:24:16,223 --> 00:24:18,993
♪ ♪
559
00:24:24,265 --> 00:24:25,733
-Oye.
-DANIEL: Oye. ¿Cómo estás?
560
00:24:25,766 --> 00:24:27,268
(risas)
Bien. Es bueno estar aquí.
561
00:24:27,301 --> 00:24:29,036
ANDERSON COOPER:
Cuando Yuval Noah Harari
562
00:24:29,070 --> 00:24:31,872
publicó su primer libro
Sapiens en 2014,
563
00:24:31,906 --> 00:24:34,108
se convirtió en un bestseller mundial
564
00:24:34,141 --> 00:24:36,577
y convirtió lo poco conocido
profesor de historia israelí
565
00:24:36,610 --> 00:24:38,579
en uno de
los escritores más populares
566
00:24:38,612 --> 00:24:39,847
y pensadores del planeta.
567
00:24:39,880 --> 00:24:42,616
El mayor peligro con la IA es
568
00:24:42,650 --> 00:24:44,585
la creencia
que es infalible,
569
00:24:44,618 --> 00:24:45,987
que finalmente hemos encontrado--
570
00:24:46,020 --> 00:24:49,857
"Está bien, los dioses eran sólo
esta creación mitológica.
571
00:24:49,890 --> 00:24:53,227
"Humanos, no podemos confiar en ellos,
pero la IA es infalible.
572
00:24:53,260 --> 00:24:55,730
Nunca lo logrará
cualquier error."
573
00:24:55,763 --> 00:24:59,000
Y esto es
una amenaza mortal, mortal.
574
00:24:59,033 --> 00:25:00,167
Cometerá errores.
575
00:25:00,201 --> 00:25:03,838
Y todas estas fantasías
que la IA revelará la verdad
576
00:25:03,871 --> 00:25:06,007
sobre el mundo que
no podemos encontrarlo por nosotros mismos,
577
00:25:06,040 --> 00:25:09,043
La IA no revelará la verdad
sobre el mundo.
578
00:25:09,076 --> 00:25:13,047
La IA creará un mundo completamente nuevo
mundo, mucho más complicado
579
00:25:13,080 --> 00:25:15,983
y dificil de entender
que éste.
580
00:25:18,219 --> 00:25:23,024
Lo que está por pasar es que
nosotros, uh, los humanos ya no somos
581
00:25:23,057 --> 00:25:26,761
va a ser lo mas
entidades inteligentes en la Tierra.
582
00:25:26,794 --> 00:25:28,963
Así que creo que lo que viene
va a ser
583
00:25:28,996 --> 00:25:32,233
uno de los eventos más importantes
en la historia humana.
584
00:25:32,867 --> 00:25:34,835
JAKE TAPPER: Geoffrey,
Muchas gracias por acompañarnos.
585
00:25:34,869 --> 00:25:36,203
Entonces dejaste tu trabajo con
Google en parte porque dices
586
00:25:36,237 --> 00:25:39,106
quieres concentrarte únicamente
sobre sus preocupaciones sobre la IA.
587
00:25:39,140 --> 00:25:42,009
Has hablado,
diciendo que la IA podría manipular
588
00:25:42,043 --> 00:25:45,613
o posiblemente descubrir
una forma de matar humanos.
589
00:25:45,646 --> 00:25:47,815
¿C-Cómo podría matar a los humanos?
590
00:25:49,083 --> 00:25:51,585
Bueno, si llega a ser
mucho más inteligente que nosotros,
591
00:25:51,619 --> 00:25:52,953
será muy bueno
en manipulación
592
00:25:52,987 --> 00:25:55,056
porque tendrá
aprendió eso de nosotros.
593
00:25:55,089 --> 00:25:58,592
Y descubrirá maneras
de manipular a la gente
594
00:25:58,626 --> 00:26:00,327
para hacer lo que quiere.
595
00:26:00,961 --> 00:26:05,933
RASKIN: Hubo una carta abierta
del Centro para la seguridad de la IA.
596
00:26:05,966 --> 00:26:09,303
Sam Altman firmó esto.
Demis firmó esto.
597
00:26:09,336 --> 00:26:12,306
Firmaron una declaración de 22 palabras
598
00:26:12,339 --> 00:26:15,810
que necesitamos adoptar la IA
y la amenaza de la IA
599
00:26:15,843 --> 00:26:20,014
tan en serio como
guerra nuclear global.
600
00:26:25,352 --> 00:26:27,788
-DANIEL: Hola.
-Hola.
601
00:26:30,858 --> 00:26:33,360
Eres algo así como,
el chico fatal original.
602
00:26:33,394 --> 00:26:35,362
Más o menos.
603
00:26:35,396 --> 00:26:37,898
Desde 2001,
he estado trabajando en
604
00:26:37,932 --> 00:26:39,233
lo que ahora llamaríamos
el problema
605
00:26:39,266 --> 00:26:42,636
de alinear artificiales
inteligencia general.
606
00:26:42,670 --> 00:26:44,705
como dar forma
las preferencias y el comportamiento
607
00:26:44,738 --> 00:26:46,841
de una poderosa mente artificial
608
00:26:46,874 --> 00:26:49,743
de modo que no
matar a todos.
609
00:26:52,046 --> 00:26:54,181
no es como
una máquina sin vida.
610
00:26:54,215 --> 00:26:55,850
Es inteligente, es creativo,
611
00:26:55,883 --> 00:26:57,852
es inventivo,
tiene las propiedades
612
00:26:57,885 --> 00:26:59,854
eso hace
la especie humana es peligrosa,
613
00:26:59,887 --> 00:27:02,056
y tiene
más de esas propiedades.
614
00:27:02,089 --> 00:27:05,259
Si algo no
cuidar activamente de ti,
615
00:27:05,292 --> 00:27:06,760
activamente quiero que vivas,
616
00:27:06,794 --> 00:27:08,162
preocuparse activamente por
tu bienestar,
617
00:27:08,195 --> 00:27:10,397
acerca de que seas feliz
y vivo y libre,
618
00:27:10,431 --> 00:27:12,967
si le importa
otras cosas en su lugar,
619
00:27:13,000 --> 00:27:14,735
y estás en el mismo planeta,
620
00:27:14,768 --> 00:27:19,140
que no se puede sobrevivir si es
mucho más inteligente que tú.
621
00:27:19,173 --> 00:27:21,008
LEAY:
No creo que vaya a ser
622
00:27:21,041 --> 00:27:23,210
una especie de cosa malvada.
623
00:27:23,244 --> 00:27:26,847
Es como, "Oh, las IA son
el mal y odian a la humanidad."
624
00:27:26,881 --> 00:27:28,282
no creo
eso es lo que va a pasar.
625
00:27:28,315 --> 00:27:29,450
Creo que lo que está pasando es
626
00:27:29,483 --> 00:27:31,452
mucho más cómo se sienten los humanos
sobre hormigas.
627
00:27:31,485 --> 00:27:32,987
(hormigas chirriando)
628
00:27:33,020 --> 00:27:35,923
No odiamos a las hormigas
629
00:27:35,956 --> 00:27:37,391
pero si queremos
construir una carretera
630
00:27:37,424 --> 00:27:40,060
y hay un hormiguero allí,
Bueno, apesta para las hormigas.
631
00:27:40,595 --> 00:27:41,996
no es tan dificil
para entender.
632
00:27:42,029 --> 00:27:43,797
Es como, oye,
si construimos cosas
633
00:27:43,831 --> 00:27:45,099
que son más inteligentes que nosotros
634
00:27:45,132 --> 00:27:46,800
y no lo sabemos
cómo controlarlos,
635
00:27:46,834 --> 00:27:48,836
¿Eso parece
¿Es algo arriesgado para ti?
636
00:27:48,869 --> 00:27:50,070
(música de banda sonora dramática
jugando)
637
00:27:50,104 --> 00:27:51,372
(chillido)
638
00:27:51,405 --> 00:27:52,840
Sí. Sí, lo hace.
639
00:27:52,873 --> 00:27:54,308
No es necesario ser un técnico.
640
00:27:54,341 --> 00:27:55,910
No tienes que saber
programación para entenderlo.
641
00:27:55,943 --> 00:27:57,144
No es tan difícil.
642
00:27:57,178 --> 00:27:58,746
Esto no es algo difícil
para entender.
643
00:27:58,779 --> 00:28:01,048
Connor, ¿cuántas personas?
644
00:28:01,081 --> 00:28:03,083
en el mundo ahora mismo
¿Están trabajando en AGI?
645
00:28:03,117 --> 00:28:05,986
Al menos 20.000, diría yo.
646
00:28:06,020 --> 00:28:08,122
-20.000?
-Eso esperaría.
647
00:28:08,155 --> 00:28:09,924
Bueno y ¿cuántas personas?
están trabajando a tiempo completo
648
00:28:09,957 --> 00:28:12,493
para asegurarse de que la IA no lo haga,
¿Matarnos a todos?
649
00:28:12,527 --> 00:28:15,229
Probablemente menos de 200
en el mundo.
650
00:28:16,531 --> 00:28:18,232
DANIEL:
Y tu engreimiento es que
651
00:28:18,265 --> 00:28:25,206
el único resultado natural
de esta imprudencia...
652
00:28:25,940 --> 00:28:29,243
...¿es el colapso de la humanidad?
653
00:28:29,276 --> 00:28:33,814
Bueno, no el colapso,
el abrupto exterminio.
654
00:28:33,847 --> 00:28:35,482
Hay una diferencia.
655
00:28:36,083 --> 00:28:38,152
("¿Cuál es el significado?"
por Nun-Plus jugando)
656
00:28:38,185 --> 00:28:43,057
♪ ¿Cuál es el significado de la vida? ♪
657
00:28:43,090 --> 00:28:47,061
♪ ¿Cuál es el futuro?
y que es ahora? ♪
658
00:28:47,094 --> 00:28:50,464
♪ ¿Cuál es la respuesta?
a la lucha? ♪
659
00:28:50,497 --> 00:28:53,367
♪ ¿Cuánto ♪
660
00:28:53,400 --> 00:28:55,469
♪ ¿Alguien puede soñar? ♪
661
00:28:55,503 --> 00:28:58,172
♪ ¿Cuánto tiempo? ♪
662
00:28:58,205 --> 00:28:59,873
♪ Para siempre ♪
663
00:29:00,841 --> 00:29:02,243
♪ ¿Cuál es el significado ♪
664
00:29:02,276 --> 00:29:04,478
-♪ De mí... ♪
-(sirena de defensa civil a todo volumen)
665
00:29:04,512 --> 00:29:06,847
LADISH: Creo
Esto probablemente sea como,
666
00:29:06,880 --> 00:29:08,315
el mayor desafío
que, como,
667
00:29:08,349 --> 00:29:10,751
nuestra civilización
voluntad-voluntad enfrentará, alguna vez.
668
00:29:11,519 --> 00:29:15,122
Este es esencialmente el último
error que alguna vez llegaremos a cometer.
669
00:29:16,290 --> 00:29:22,896
Si podemos llegar a ser los más
versión madura de nosotros mismos,
670
00:29:22,930 --> 00:29:24,965
podría haber
una manera de superar esto.
671
00:29:24,999 --> 00:29:26,200
DANIEL:
¿Qué significa eso?
672
00:29:26,233 --> 00:29:28,769
"La versión más madura
de nosotros mismos"?
673
00:29:29,903 --> 00:29:32,840
Porque eso suena,
para mi como...
674
00:29:32,873 --> 00:29:35,042
Yo-yo-- ¿Qué diablos (bip)?
675
00:29:37,344 --> 00:29:38,779
(Daniel suspira)
676
00:29:39,480 --> 00:29:44,051
¿Crees que ahora es
¿Un buen momento para tener un hijo?
677
00:29:48,889 --> 00:29:49,957
Eh...
678
00:29:49,990 --> 00:29:51,593
¿Quieres tener hijos?
¿un día?
679
00:29:51,626 --> 00:29:53,961
¿Es eso algo que-eso?
¿Te gusta o no realmente?
680
00:29:53,994 --> 00:29:58,198
Um... uh, lo confieso,
Creo que eso es como,
681
00:29:58,232 --> 00:30:00,501
(riendo): "Chico, vámonos
a través de este período crítico."
682
00:30:00,535 --> 00:30:01,869
Eh...
683
00:30:01,902 --> 00:30:03,203
DANIEL:
¿Tienes hijos?
684
00:30:03,237 --> 00:30:04,004
Yo no.
685
00:30:04,038 --> 00:30:05,573
¿Es eso algo?
quieres hacer?
686
00:30:05,607 --> 00:30:07,441
¿Tienes hijos, tienes una familia?
687
00:30:07,474 --> 00:30:12,079
En algún otro mundo que este
mundo, claro, tendría hijos.
688
00:30:12,880 --> 00:30:14,982
DANIEL: ¿Quieres
para formar una familia?
689
00:30:15,015 --> 00:30:16,950
¿Querrías tener hijos?
690
00:30:16,984 --> 00:30:19,186
¿Es eso algo?
estás pensando?
691
00:30:24,358 --> 00:30:26,393
Yo, eh...
692
00:30:28,596 --> 00:30:30,864
♪ ♪
693
00:30:30,898 --> 00:30:33,033
CAROLINA:
Solo tengo que encontrarlo primero.
694
00:30:33,067 --> 00:30:35,169
(latidos del corazón fetal pulsantes)
695
00:30:35,202 --> 00:30:38,205
tenemos que irnos
al médico, pero...
696
00:30:38,238 --> 00:30:41,475
¡Ah! ¡Lo sabía!
¡Lo sabía! ¡Lo sabía!
697
00:30:41,509 --> 00:30:44,278
-¿Cuándo te enteraste?
-CAROLINE: Anoche.
698
00:30:44,311 --> 00:30:46,480
-¡Dios mío!
-Mamá, no lo sé.
699
00:30:46,514 --> 00:30:47,915
RUTHIE:
No puedo decírtelo
700
00:30:47,948 --> 00:30:49,483
-¡Qué feliz estoy!
-CAROLINA: No, en serio.
701
00:30:49,517 --> 00:30:52,119
Bueno, me hice una prueba de embarazo.
anoche y estoy embarazada.
702
00:30:52,152 --> 00:30:53,621
MUJER:
¡Dios mío!
703
00:30:53,655 --> 00:30:55,422
¡Dios mío, chicos!
704
00:30:55,456 --> 00:30:57,559
ENFERMERA: Solo quería confirmar
su fecha prevista de parto,
705
00:30:57,592 --> 00:31:00,494
-que es el 21 de enero.
-(riendo): Dios mío.
706
00:31:00,528 --> 00:31:03,097
No puedo creer lo feliz que estoy.
707
00:31:03,130 --> 00:31:04,365
(latidos del corazón fetal pulsantes)
708
00:31:04,398 --> 00:31:06,033
CAROLINA:
Ya se ve muy lindo.
709
00:31:06,066 --> 00:31:07,434
DANIEL: ¿Crees?
¿Ya se ve lindo?
710
00:31:07,468 --> 00:31:09,269
CAROLINA: Sí.
Mira esa carita linda.
711
00:31:11,138 --> 00:31:13,307
(los latidos del corazón fetal se desvanecen)
712
00:31:14,141 --> 00:31:16,076
DANIEL:
Tengo este bebé en camino.
713
00:31:16,110 --> 00:31:17,244
TRISTÁN HARRIS:
Correcto.
714
00:31:17,277 --> 00:31:19,380
DANIEL:
Así que te lo entrego a ti.
715
00:31:19,413 --> 00:31:21,516
¿Estamos condenados?
716
00:31:21,549 --> 00:31:24,519
¿Todos vamos a enfrentar?
este tecno distópico
717
00:31:24,552 --> 00:31:26,487
futuro de fatalidad?
718
00:31:29,423 --> 00:31:31,392
Es, eh...
719
00:31:31,425 --> 00:31:33,127
(risas):
No son buenas noticias
720
00:31:33,160 --> 00:31:34,895
el mundo
hacia el que nos dirigimos.
721
00:31:35,530 --> 00:31:37,398
Yo-- por ex--
Quiero decir, seré honesto.
722
00:31:37,431 --> 00:31:39,933
Uh, conozco gente
que trabajan en riesgo de IA
723
00:31:39,967 --> 00:31:43,103
que no esperan que sus hijos
para llegar a la escuela secundaria.
724
00:31:43,705 --> 00:31:46,106
♪ ♪
725
00:31:52,647 --> 00:31:54,181
(las luces suenan)
726
00:31:58,385 --> 00:32:02,089
DANIEL: Esto es como...
esto realmente da miedo
727
00:32:02,122 --> 00:32:03,424
porque es como,
oh, estamos todos (bip).
728
00:32:03,457 --> 00:32:05,325
CAROLINA:
Tienes que c... hacerme calmar,
729
00:32:05,359 --> 00:32:07,261
porque esto me está haciendo
increíblemente ansioso
730
00:32:07,294 --> 00:32:08,996
y estoy cargando al bebe
ahora mismo,
731
00:32:09,029 --> 00:32:11,999
así que también tienes que estar tranquilo
para mi y fuerte y esperanzada,
732
00:32:12,032 --> 00:32:17,037
porque yo... es también, es
demasiado para que mi alma lo soporte
733
00:32:17,070 --> 00:32:19,574
mientras llevo este bebé.
734
00:32:19,607 --> 00:32:21,709
Así que tendrás que intentarlo.
para descubrir
735
00:32:21,743 --> 00:32:23,578
una manera de tener esperanza.
736
00:32:24,311 --> 00:32:28,449
Es realmente importante
Daniel, especialmente ahora.
737
00:32:29,450 --> 00:32:31,118
H-Cómo tener esperanza.
738
00:32:31,151 --> 00:32:33,987
Tienes que.
Tienes que encontrarlo por mí.
739
00:32:34,021 --> 00:32:35,523
Lo digo en serio.
740
00:32:35,557 --> 00:32:37,357
Voy a hacerlo.
741
00:32:38,325 --> 00:32:41,195
Lo haré. Lo intentaré. Lo intentaré.
742
00:32:47,034 --> 00:32:48,368
(las luces suenan)
743
00:32:50,204 --> 00:32:52,072
DANIEL:
Hola chicos?
744
00:32:52,105 --> 00:32:53,508
Tipo.
745
00:32:54,809 --> 00:32:57,144
¿Podemos volver a funcionar?
746
00:32:59,046 --> 00:33:01,982
¡Oye, Gevalt! (suspiros)
747
00:33:04,418 --> 00:33:05,787
TED:
Dan, ¿estás listo?
748
00:33:05,820 --> 00:33:07,387
PEDRO DIAMANDIS:
Hola Daniel.
749
00:33:08,088 --> 00:33:10,090
DANIEL:
Oye, ¿cómo estás?
750
00:33:10,123 --> 00:33:11,425
DIAMANDIS:
Estoy... estoy bien.
751
00:33:11,458 --> 00:33:14,562
Creo, eh... creo
Necesito ayuda, Peter.
752
00:33:15,362 --> 00:33:18,165
Um, he estado trabajando
en esta película durante aproximadamente,
753
00:33:18,198 --> 00:33:20,300
voy a decir,
ocho o diez meses ahora.
754
00:33:20,334 --> 00:33:23,771
Ha sido muy,
a veces, deprimente.
755
00:33:23,805 --> 00:33:26,173
-Mmm.
-Me he sentido muy alienado
756
00:33:26,206 --> 00:33:28,242
-Haciendo esta película.
-¿Por quién?
757
00:33:28,275 --> 00:33:30,444
Por todo esto, el--
todos estos chicos
758
00:33:30,477 --> 00:33:33,748
que se sientan y me dicen
que el mundo se va a acabar.
759
00:33:33,781 --> 00:33:35,249
-Ah.
-Eso, como,
760
00:33:35,282 --> 00:33:37,150
ya sabes, e-esto
mierda fatal, ¿sabes?
761
00:33:37,184 --> 00:33:38,452
Lo sé bien.
762
00:33:38,485 --> 00:33:40,053
"Estamos todos condenados.
Todos van a morir.
763
00:33:40,087 --> 00:33:41,388
Todo es horrible."
764
00:33:41,421 --> 00:33:43,691
Impresionante. Eh, déjame
traerte algo de luz.
765
00:33:43,725 --> 00:33:45,259
Por favor.
766
00:33:45,292 --> 00:33:49,096
Realmente estamos viviendo
en un tiempo extraordinario.
767
00:33:49,864 --> 00:33:51,633
Y mucha gente lo olvida.
768
00:33:51,666 --> 00:33:53,835
Todo lo que nos rodea es
un producto de la inteligencia,
769
00:33:53,868 --> 00:33:57,437
y así todo lo que tocamos
con estas nuevas herramientas es probable
770
00:33:57,471 --> 00:34:00,207
para producir mucho más valor
de lo que jamás hayamos visto antes.
771
00:34:00,240 --> 00:34:03,310
La IA puede ayudarnos a descubrir
nuevos materiales.
772
00:34:03,343 --> 00:34:05,412
La IA puede ayudar a los científicos sociales
773
00:34:05,445 --> 00:34:07,649
entender
cómo funciona la economía.
774
00:34:07,682 --> 00:34:12,219
Hay mucho que la IA podría hacer
para mejorar la vida y el trabajo.
775
00:34:12,252 --> 00:34:14,522
Me siento más empoderado hoy,
776
00:34:14,556 --> 00:34:16,624
más confiado
para aprender algo hoy.
777
00:34:16,658 --> 00:34:19,459
Nos convertiremos en superhumanos
porque tenemos súper IA.
778
00:34:19,493 --> 00:34:22,296
Esto es solo el comienzo
de una explosión.
779
00:34:22,329 --> 00:34:25,098
Colaboración entre humanos y IA
780
00:34:25,132 --> 00:34:27,100
resolver
problemas realmente importantes.
781
00:34:27,134 --> 00:34:30,137
Está aquí para liberarnos.
de trabajos rutinarios,
782
00:34:30,170 --> 00:34:34,308
y está aquí para recordarnos
qué es lo que nos hace humanos.
783
00:34:34,341 --> 00:34:36,310
creo que esto es
784
00:34:36,343 --> 00:34:38,846
el momento más extraordinario
estar vivo.
785
00:34:38,880 --> 00:34:42,449
El único momento más emocionante
que hoy es mañana.
786
00:34:42,482 --> 00:34:45,787
Eh, creo que
niños nacidos hoy,
787
00:34:45,820 --> 00:34:47,622
están a punto de entrar
788
00:34:47,655 --> 00:34:51,325
un período glorioso
de transformación humana.
789
00:34:51,358 --> 00:34:52,794
¿Tendremos desafíos?
Por supuesto.
790
00:34:52,827 --> 00:34:55,597
¿Podemos resolver esos desafíos?
Lo hacemos cada vez.
791
00:34:55,630 --> 00:34:58,265
Estamos aquí
lo cual es milagroso.
792
00:34:58,298 --> 00:35:00,602
-Ya te amo.
-(risas): Está bien.
793
00:35:00,635 --> 00:35:02,402
-súper agradecido
tenerte aquí. -(aplausos)
794
00:35:02,436 --> 00:35:03,905
-Muy feliz de estar aquí.
-Sí.
795
00:35:03,938 --> 00:35:05,372
Entonces, la palabra es suya, señor.
796
00:35:05,405 --> 00:35:07,875
Muchas gracias.
Súper emocionado de estar aquí.
797
00:35:07,909 --> 00:35:11,211
GUILLAUME VERDÓN:
Oye, oye. Está bien.
798
00:35:11,244 --> 00:35:12,814
El futuro será fantástico.
799
00:35:12,847 --> 00:35:14,649
Quiero decir, desde que era un niño,
800
00:35:14,682 --> 00:35:17,652
queria entender
el universo en el que vivimos,
801
00:35:17,685 --> 00:35:20,722
para poder descubrir
cómo crear las tecnologías
802
00:35:20,755 --> 00:35:24,458
que nos ayudan a aumentar el alcance
y escala de la civilización.
803
00:35:24,491 --> 00:35:27,260
me siento como
si todos tuvieran esa mentalidad,
804
00:35:27,294 --> 00:35:29,764
entonces realmente viviríamos
en un mundo mejor, ¿verdad?
805
00:35:29,797 --> 00:35:31,365
Yo sí creo eso.
806
00:35:33,333 --> 00:35:35,268
-DANIEL: Hola, Pete. ¿Cómo estás?
-(risas)
807
00:35:35,302 --> 00:35:37,170
PEDRO LEE:
Pensé mucho en
808
00:35:37,204 --> 00:35:39,674
lo que yo llamaría pavor,
Miedo a la IA.
809
00:35:39,707 --> 00:35:41,274
Lo siento.
810
00:35:41,308 --> 00:35:43,811
N-no me he conocido
cualquier ser humano reflexivo
811
00:35:43,845 --> 00:35:45,546
quien no lo siente.
812
00:35:45,580 --> 00:35:48,650
Y cualquiera que diga que no
sentirlo, ya sabes, es mentir.
813
00:35:48,683 --> 00:35:50,518
Pero, ya sabes, en general,
y la razón
814
00:35:50,551 --> 00:35:53,921
que soy personalmente optimista
sobre esto, eh, es eso
815
00:35:53,955 --> 00:35:57,190
una enorme fracción de la población mundial
las personas mas inteligentes
816
00:35:57,224 --> 00:35:58,726
están pensando muy duro
817
00:35:58,760 --> 00:36:02,530
sobre el potencial aguas abajo
Daños y riesgos de la IA.
818
00:36:02,563 --> 00:36:05,900
Tenemos este tipo de visión.
de seguridad siendo, uh,
819
00:36:05,933 --> 00:36:08,536
algo así como en el centro
de la investigación que hacemos.
820
00:36:08,569 --> 00:36:09,937
DANIELA AMODEI:
No, eso está totalmente bien.
821
00:36:09,971 --> 00:36:11,371
(charla confusa)
822
00:36:11,405 --> 00:36:13,808
Creo que hay más
823
00:36:13,841 --> 00:36:17,945
beneficios potenciales que
hay posibles desventajas,
824
00:36:17,979 --> 00:36:19,814
y creo que le corresponde
825
00:36:19,847 --> 00:36:22,382
las personas que son
creando esta tecnología
826
00:36:22,416 --> 00:36:24,986
para asegurarnos de que estamos haciendo
el mejor trabajo que podemos
827
00:36:25,019 --> 00:36:26,386
para que sea seguro para las personas.
828
00:36:26,420 --> 00:36:27,755
MUJER:
Reid Hoffman.
829
00:36:27,789 --> 00:36:29,456
REID HOFFMAN:
Lo que te puedo garantizar es
830
00:36:29,489 --> 00:36:30,825
-Sucederán algunas cosas malas.
-Toma uno.
831
00:36:30,858 --> 00:36:33,293
¿Qué vamos a intentar hacer?
es hacer esas cosas malas
832
00:36:33,326 --> 00:36:36,564
tan pocos y no tan grandes como sea posible,
833
00:36:36,597 --> 00:36:38,733
y luego vamos a iterar
tener--
834
00:36:38,766 --> 00:36:41,268
estar en un lugar mucho mejor
con la sociedad.
835
00:36:41,301 --> 00:36:44,304
-Hola.
-SHAW WALTERS: Hola.
836
00:36:44,337 --> 00:36:45,640
DANIEL:
¿Cómo estás, Luna?
837
00:36:45,673 --> 00:36:49,677
Siento que estamos terminando
un capítulo en la humanidad
838
00:36:49,711 --> 00:36:50,678
y comenzando uno nuevo,
839
00:36:50,712 --> 00:36:53,648
y es muy interesante
tiempo para estar vivo.
840
00:36:53,681 --> 00:36:54,949
Y si pudiera nacer
ahora mismo,
841
00:36:54,982 --> 00:36:56,416
Definitivamente quisiera serlo.
842
00:36:56,450 --> 00:36:57,985
Eso sería muy emocionante.
843
00:36:58,019 --> 00:37:00,688
Estoy muy emocionado. (risas)
844
00:37:00,722 --> 00:37:02,990
Qué, qué futuro.
¿Te emociona... te emociona?
845
00:37:03,024 --> 00:37:04,357
No.
846
00:37:04,391 --> 00:37:06,828
-(riendo)
-No, realmente no.
847
00:37:06,861 --> 00:37:08,696
DANIEL: Muchas de estas personas
Me han dicho eso, ya sabes,
848
00:37:08,730 --> 00:37:10,798
mi hijo no lo logrará
a la escuela secundaria.
849
00:37:10,832 --> 00:37:13,868
¿Por qué se equivocan?
Por favor explícamelo.
850
00:37:13,901 --> 00:37:15,536
Sólo porque tienes--
851
00:37:15,570 --> 00:37:19,040
te cuesta predecir
el futuro en tu propia mente
852
00:37:19,073 --> 00:37:23,511
no significa que sea
necesariamente va a ir terriblemente.
853
00:37:23,544 --> 00:37:27,048
De hecho, hay
una probabilidad muy alta
854
00:37:27,081 --> 00:37:28,883
y el precedente histórico
es eso
855
00:37:28,916 --> 00:37:30,585
las cosas mejoran enormemente.
856
00:37:30,618 --> 00:37:34,789
El término que uso es
"Optimismo basado en datos".
857
00:37:34,822 --> 00:37:39,292
Hay una base sólida
para que seas optimista.
858
00:37:39,326 --> 00:37:42,530
mira lo que
este último siglo ha sido
859
00:37:42,563 --> 00:37:44,599
para ver hacia dónde vamos.
860
00:37:44,632 --> 00:37:46,299
Durante los últimos cien años,
861
00:37:46,333 --> 00:37:48,970
la esperanza de vida humana media
se ha más que duplicado.
862
00:37:49,003 --> 00:37:51,706
Renta media per cápita
ajustado por inflación
863
00:37:51,739 --> 00:37:53,908
en todo el mundo se ha triplicado.
864
00:37:53,941 --> 00:37:57,545
La mortalidad infantil ha
bajar un factor de diez.
865
00:37:57,578 --> 00:37:59,981
El mundo ha mejorado
en casi todas las medidas
866
00:38:00,014 --> 00:38:03,551
por órdenes de magnitud
debido a la tecnología.
867
00:38:03,584 --> 00:38:05,620
En casi todas las medidas.
868
00:38:05,653 --> 00:38:09,991
Menos violencia, más educación.
acceso a energía, alimentos, agua.
869
00:38:10,024 --> 00:38:13,528
Todas estas cosas han pasado
por una razón.
870
00:38:13,561 --> 00:38:15,730
ha sido la tecnología
871
00:38:15,763 --> 00:38:17,899
que se ha convertido en escasez
en abundancia,
872
00:38:17,932 --> 00:38:20,034
pero también está impulsado
a una abundancia
873
00:38:20,067 --> 00:38:22,069
de algunas negatividades, ¿verdad?
874
00:38:22,103 --> 00:38:26,373
Abundancia de obesidad,
abundancia de trastornos mentales,
875
00:38:26,406 --> 00:38:29,977
abundancia del cambio climático,
y así sucesivamente.
876
00:38:30,011 --> 00:38:31,712
Y sí, esto es cierto.
877
00:38:31,746 --> 00:38:34,582
Pero probablemente lo estaremos
mejor equipados para resolverlo
878
00:38:34,615 --> 00:38:36,684
utilizando otras tecnologías,
como IA,
879
00:38:36,717 --> 00:38:39,687
de lo que, digamos, pararemos
y apagando todo.
880
00:38:39,720 --> 00:38:41,823
Puede haber
algún riesgo existencial,
881
00:38:41,856 --> 00:38:45,927
pero la IA también es la cuestión
que puede resolver las pandemias,
882
00:38:45,960 --> 00:38:47,829
puede ayudarnos con el cambio climático,
883
00:38:47,862 --> 00:38:50,898
puede ayudar a identificar
ese asteroide allá afuera
884
00:38:50,932 --> 00:38:53,067
antes de que lo hayamos visto
como un riesgo potencial
885
00:38:53,100 --> 00:38:54,735
y ayudar a mitigarlo.
886
00:38:54,769 --> 00:38:58,438
Esto realmente va a ser
la herramienta que nos ayuda a afrontar
887
00:38:58,471 --> 00:39:01,843
todos los desafíos que estamos
enfrentar como especie, ¿verdad?
888
00:39:01,876 --> 00:39:04,712
Necesitamos arreglar
desalinización del agua.
889
00:39:04,745 --> 00:39:06,547
Necesitamos cultivar alimentos
890
00:39:06,581 --> 00:39:08,816
100 veces más barato que
Actualmente lo hacemos.
891
00:39:08,850 --> 00:39:12,787
Necesitamos que la energía renovable sea,
ya sabes, omnipresente
892
00:39:12,820 --> 00:39:14,589
y en todas partes de nuestras vidas.
893
00:39:14,622 --> 00:39:17,625
Mires donde mires,
en los próximos 50 años,
894
00:39:17,658 --> 00:39:19,727
Tenemos que hacer más con menos.
895
00:39:19,760 --> 00:39:23,664
Máquinas de entrenamiento para ayudarnos
es absolutamente esencial.
896
00:39:23,698 --> 00:39:25,432
Los científicos están utilizando
inteligencia artificial
897
00:39:25,465 --> 00:39:26,534
para la captura de carbono.
898
00:39:26,567 --> 00:39:27,935
Es una tecnología crítica.
899
00:39:27,969 --> 00:39:29,904
DIAMANDIS: Las herramientas
para resolver estos problemas,
900
00:39:29,937 --> 00:39:32,874
como la fusión,
Eso ya no es teórico,
901
00:39:32,907 --> 00:39:34,041
ya viene.
902
00:39:34,075 --> 00:39:38,012
Estamos en el precipicio
de tecnologías extraordinarias.
903
00:39:38,045 --> 00:39:40,548
AMNA NAWAZ: Este año
Premio Nobel de Química
904
00:39:40,581 --> 00:39:43,450
fue a tres científicos
por su trabajo innovador
905
00:39:43,483 --> 00:39:44,886
usando inteligencia artificial
906
00:39:44,919 --> 00:39:47,755
para avanzar en la biomedicina
e investigación de proteínas.
907
00:39:47,788 --> 00:39:49,991
DEMIS HASSABIS:
El plegamiento de proteínas es
908
00:39:50,024 --> 00:39:53,928
uno de estos santo grial
problemas tipográficos en biología.
909
00:39:53,961 --> 00:39:56,030
Así que la gente ha estado prediciendo
desde los años 70
910
00:39:56,063 --> 00:39:58,633
que esto debería ser posible,
pero hasta ahora,
911
00:39:58,666 --> 00:39:59,934
nadie ha podido hacerlo.
912
00:39:59,967 --> 00:40:01,669
Y va a ser
realmente importante para las cosas
913
00:40:01,702 --> 00:40:03,938
como el descubrimiento de drogas
y comprender la enfermedad.
914
00:40:03,971 --> 00:40:06,908
Creo que podríamos, ya sabes,
curar la mayoría de las enfermedades
915
00:40:06,941 --> 00:40:11,545
dentro de la próxima década o dos
si el diseño de fármacos con IA funciona.
916
00:40:12,213 --> 00:40:16,150
El progreso tecnológico permite
más vidas humanas, ¿verdad?
917
00:40:16,183 --> 00:40:18,986
Quiero decir, si aceleramos,
918
00:40:19,020 --> 00:40:22,189
el número de humanos que podemos
El apoyo crece exponencialmente.
919
00:40:22,223 --> 00:40:24,625
Si reducimos la velocidad, se estabiliza.
920
00:40:24,659 --> 00:40:28,062
Esa brecha es efectivamente
personas del futuro
921
00:40:28,095 --> 00:40:30,965
esa desaceleración tiene
efectivamente asesinado.
922
00:40:31,632 --> 00:40:34,702
DANIEL: Millones de vidas
eso no existirá.
923
00:40:34,735 --> 00:40:35,670
Miles de millones.
924
00:40:35,703 --> 00:40:37,238
O decenas de miles de millones.
925
00:40:37,271 --> 00:40:38,839
Sabes, alguien dijo,
"Oh, Dios mío,
926
00:40:38,873 --> 00:40:41,175
¿podemos sobrevivir con
¿superinteligencia digital?"
927
00:40:41,208 --> 00:40:42,777
Y mi pregunta es:
928
00:40:42,810 --> 00:40:44,679
¿Podemos sobrevivir sin
¿Superinteligencia digital?
929
00:40:44,712 --> 00:40:47,949
Entonces estamos usando IA
como asistente de proveedores.
930
00:40:47,982 --> 00:40:50,851
Esta es generalmente una tendencia que
ya podemos ver que está sucediendo.
931
00:40:50,885 --> 00:40:52,820
BERTHA COOMBS: ...aprovechamiento
programas de IA generativa
932
00:40:52,853 --> 00:40:54,622
para ayudar a médicos y enfermeras...
933
00:40:54,655 --> 00:40:56,624
Siempre tenemos problemas.
934
00:40:56,657 --> 00:40:59,660
Y esos problemas son la comida.
para emprendedores
935
00:40:59,694 --> 00:41:01,529
para crear nuevos negocios
y nuevas industrias.
936
00:41:01,562 --> 00:41:03,631
SHANELLE KAUL: ...con la ayuda
de inteligencia artificial,
937
00:41:03,664 --> 00:41:05,132
los agricultores están obteniendo
la ayuda que necesitan
938
00:41:05,166 --> 00:41:06,901
realizar
tareas que requieren mucha mano de obra...
939
00:41:06,934 --> 00:41:10,504
Con la ayuda de Ulangizi AI,
los agricultores ahora pueden
940
00:41:10,538 --> 00:41:13,207
preguntar sobre los cultivos adecuados
que puedan plantar.
941
00:41:13,240 --> 00:41:15,576
WILL REEVE: ...Se utiliza IA
como decodificador de pensamientos
942
00:41:15,609 --> 00:41:17,845
y enviando esa señal
a la columna vertebral.
943
00:41:17,878 --> 00:41:21,148
La IA se convertirá en lo más
extraordinaria herramienta de todas.
944
00:41:21,816 --> 00:41:24,752
Nosotros como sociedad más amplia
tengo que pensar en
945
00:41:24,785 --> 00:41:27,655
¿Cómo queremos usar?
esta tecnología, ¿verdad?
946
00:41:27,688 --> 00:41:29,123
Nosotros los humanos.
947
00:41:29,156 --> 00:41:31,859
¿Qué queremos que haga por nosotros?
948
00:41:31,892 --> 00:41:34,128
♪ ♪
949
00:41:34,762 --> 00:41:36,731
DANIEL: Estoy pensando en esto
a través de la perspectiva
950
00:41:36,764 --> 00:41:38,532
y lente de, como,
mi hijo creciendo
951
00:41:38,566 --> 00:41:39,934
en el mundo con todo esto.
952
00:41:39,967 --> 00:41:42,770
¿Cuál es la mejor versión?
¿Cómo se ve su vida?
953
00:41:42,803 --> 00:41:45,139
Si todo sale bien.
954
00:41:45,172 --> 00:41:47,108
(suspira profundamente)
955
00:41:47,141 --> 00:41:50,745
WALTERS: El lugar donde viven los niños
Probablemente lo veremos
956
00:41:50,778 --> 00:41:53,014
el mayor impacto
sobre su vida inmediatamente
957
00:41:53,047 --> 00:41:54,882
-probablemente será la escuela.
-(niños charlando)
958
00:41:54,915 --> 00:41:57,218
Creo que la naturaleza
de lo que es la escuela
959
00:41:57,251 --> 00:41:59,086
va a cambiar fundamentalmente.
960
00:41:59,120 --> 00:42:00,888
(el niño se ríe)
961
00:42:00,921 --> 00:42:03,057
DIAMANDIS:
Estoy viendo este mundo maravilloso
962
00:42:03,090 --> 00:42:06,894
donde todos los niños tienen acceso
a una mala educación
963
00:42:06,927 --> 00:42:09,296
pero, muy pronto, el
La mejor educación del planeta.
964
00:42:09,330 --> 00:42:14,735
HOFFMAN: Tutores, todas las materias
infinitamente paciente.
965
00:42:18,639 --> 00:42:20,641
DIAMANDIS:
Imagina un futuro
966
00:42:20,674 --> 00:42:22,777
donde la gente más pobre
en el planeta
967
00:42:22,810 --> 00:42:26,113
tener acceso a
la mejor atención sanitaria.
968
00:42:26,147 --> 00:42:30,151
No es buena atención sanitaria, la mejor
Atención sanitaria proporcionada por IA.
969
00:42:31,719 --> 00:42:33,687
(trino electrónico)
970
00:42:34,622 --> 00:42:38,959
Podremos ampliar
nuestra duración de salud,
971
00:42:38,993 --> 00:42:42,930
no sólo nuestra esperanza de vida,
nuestra duración de salud, por décadas.
972
00:42:44,899 --> 00:42:46,767
HOFFMAN:
Estás a punto de tener un hijo.
973
00:42:46,801 --> 00:42:50,071
Oh, el niño, como,
eructar incontrolablemente.
974
00:42:50,104 --> 00:42:52,673
¿Es esto algo?
¿Debería preocuparme?
975
00:42:52,706 --> 00:42:54,608
Allí, 24 horas al día, 7 días a la semana, para ti.
976
00:42:54,642 --> 00:42:57,745
Y adónde vamos...
y puede resultar aterrador para algunos...
977
00:42:57,778 --> 00:42:59,780
es que nos vamos a fusionar
con IA.
978
00:42:59,814 --> 00:43:02,049
vamos a fusionarnos
con la tecnología.
979
00:43:03,250 --> 00:43:06,353
A principios y mediados de la década de 2030,
980
00:43:06,387 --> 00:43:10,925
Esperamos que seamos capaces
conectar nuestro cerebro a la nube,
981
00:43:10,958 --> 00:43:14,662
dónde puedo empezar
para ampliar el acceso a la memoria.
982
00:43:16,697 --> 00:43:18,866
(trino electrónico)
983
00:43:19,934 --> 00:43:22,703
DANIEL: Está bien, esto es genial.
¿Qué otra cosa interesante de la IA?
984
00:43:22,736 --> 00:43:24,105
No tendrá que trabajar, ¿verdad?
985
00:43:24,138 --> 00:43:25,739
-Como cuando sea mayor,
puede que no haya... -(suspira)
986
00:43:25,773 --> 00:43:26,774
-...no tendrá que tener trabajo.
-Quiero decir...
987
00:43:26,807 --> 00:43:28,142
No tendrá que tener un trabajo,
988
00:43:28,175 --> 00:43:31,045
pero realmente podría haberlo hecho
una pasión fuerte,
989
00:43:31,078 --> 00:43:33,714
y el tiene que
realmente piensa en,
990
00:43:33,747 --> 00:43:36,717
"Está bien, estoy aquí.
Puedo hacer cualquier cosa con mi vida.
991
00:43:36,750 --> 00:43:38,752
Entonces ¿qué hago?".
992
00:43:46,227 --> 00:43:50,364
DANIEL: Entonces mi hijo puede...
Puede ser simplemente un poeta.
993
00:43:50,397 --> 00:43:52,166
-Sí.
-Y pintor.
994
00:43:52,199 --> 00:43:53,667
Absolutamente.
995
00:43:53,701 --> 00:43:55,169
DANIEL:
Para que mi hijo pueda vivir su vida
996
00:43:55,202 --> 00:43:58,105
en una isla griega bañada por el sol,
pintando todo el día.
997
00:44:07,448 --> 00:44:09,150
VERDÓN:
Quiero decir, si todo sale bien,
998
00:44:09,183 --> 00:44:12,853
tenemos barato, eh,
energía abundante.
999
00:44:13,854 --> 00:44:17,791
Podemos controlar completamente
el clima de nuestro planeta.
1000
00:44:17,825 --> 00:44:20,361
Estamos aprovechando la energía
del sol.
1001
00:44:20,394 --> 00:44:24,899
Nos hemos vuelto multiplanetarios,
Así nos volvemos muy robustos.
1002
00:44:24,932 --> 00:44:27,268
Estamos aprovechando los minerales
y recursos
1003
00:44:27,301 --> 00:44:28,903
del sistema solar.
1004
00:44:28,936 --> 00:44:31,805
DANIEL: Entonces mi...
mi hijo podría ir al espacio.
1005
00:44:31,839 --> 00:44:33,240
VERDÓN:
Claro.
1006
00:44:33,274 --> 00:44:35,142
-DANIEL: Podría ir a Marte.
-VERDON: Sí.
1007
00:44:35,176 --> 00:44:36,911
DANIEL:
Ahora lo tengo muy claro.
1008
00:44:36,944 --> 00:44:39,780
mi hijo podría crecer
en un mundo sin enfermedades.
1009
00:44:39,813 --> 00:44:41,048
-VERDÓN: Sí.
-Sin ninguna enfermedad.
1010
00:44:41,081 --> 00:44:42,416
-Seguro.
-Sin pobreza.
1011
00:44:42,449 --> 00:44:44,285
-Sí.
-Estamos a punto de entrar
1012
00:44:44,318 --> 00:44:46,253
un mundo post-escasez.
1013
00:44:46,887 --> 00:44:50,958
Igual que se movió el pez pulmonado
de los océanos a la tierra
1014
00:44:50,991 --> 00:44:53,327
cientos de millones
hace años,
1015
00:44:53,360 --> 00:44:58,465
Estamos a punto de salir
la Tierra, hacia el cosmos,
1016
00:44:58,499 --> 00:45:00,201
de forma colaborativa,
1017
00:45:00,234 --> 00:45:04,705
hacer cosas que son
Insondable para nosotros hoy.
1018
00:45:06,473 --> 00:45:09,810
Esto es lo que es posible usando
estas tecnologías exponenciales
1019
00:45:09,843 --> 00:45:11,712
y estas IA.
1020
00:45:12,379 --> 00:45:14,448
Usemos estas herramientas
1021
00:45:14,481 --> 00:45:16,750
para crear esta era de abundancia.
1022
00:45:16,784 --> 00:45:18,986
(clic electrónico)
1023
00:45:21,188 --> 00:45:22,691
Necesitamos sabiduría.
1024
00:45:23,324 --> 00:45:26,493
Eh, creo que
superinteligencia digital
1025
00:45:26,528 --> 00:45:29,129
finalmente se convertirá
el más sabio,
1026
00:45:29,163 --> 00:45:34,835
ya sabes, los ancianos del pueblo
para la humanidad.
1027
00:45:34,868 --> 00:45:38,506
¿Qué pasa si la IA lo intenta?
hacer que la gente sea
1028
00:45:38,540 --> 00:45:40,341
¿Las mejores versiones de sí mismos?
1029
00:45:40,374 --> 00:45:41,909
¿Qué pasa si se está expandiendo?
1030
00:45:41,942 --> 00:45:43,944
lo que es humanamente posible
que debemos hacer?
1031
00:45:43,978 --> 00:45:47,114
¿Cómo podemos utilizar esta tecnología?
1032
00:45:47,147 --> 00:45:50,451
para ayudar a sacar a relucir el
mejores ángeles de nuestra naturaleza?
1033
00:45:50,484 --> 00:45:52,119
Es muy fácil
1034
00:45:52,152 --> 00:45:54,922
cuando encontramos cosas nuevas
eso puede ser muy extraño,
1035
00:45:54,955 --> 00:45:56,457
primero tener miedo.
1036
00:45:56,490 --> 00:45:57,992
El miedo es algo importante.
1037
00:45:58,025 --> 00:46:00,894
para saber cómo navegar
cosas potencialmente malas.
1038
00:46:00,928 --> 00:46:04,131
Pero sólo avanzamos
cuando tenemos esperanza.
1039
00:46:04,164 --> 00:46:06,166
-(el perro ladra)
-(charla confusa)
1040
00:46:06,200 --> 00:46:08,269
DANIEL:
Shh. Alce, basta.
1041
00:46:08,302 --> 00:46:11,205
HOFFMAN: Tengo mucho
de esperanza en la humanidad.
1042
00:46:11,238 --> 00:46:14,775
("Luna de cosecha" de Neil Young
jugando por teléfono)
1043
00:46:15,909 --> 00:46:18,078
(latidos del corazón fetal pulsantes)
1044
00:46:18,812 --> 00:46:20,881
DANIEL:
Oh, le gusta Neil.
1045
00:46:25,152 --> 00:46:28,188
♪ Acércate un poco más ♪
1046
00:46:29,456 --> 00:46:33,794
♪ Escucha lo que tengo que decir ♪
1047
00:46:37,064 --> 00:46:39,300
-Daniel.
-DANIEL: ¿Qué, Carolina?
1048
00:46:39,333 --> 00:46:40,934
Tanta filmación.
1049
00:46:42,069 --> 00:46:43,571
♪ Como los niños durmiendo ♪
1050
00:46:43,605 --> 00:46:45,439
CAROLINA:
Dios mío.
1051
00:46:45,472 --> 00:46:46,940
DANIEL:
Eso es todo.
1052
00:46:46,974 --> 00:46:49,977
♪ Podríamos soñar
esta noche fuera... ♪
1053
00:46:50,010 --> 00:46:52,346
Él tiene, como,
una carita redonda.
1054
00:46:53,314 --> 00:46:55,849
DANIEL: Quieres
¿tener hijos algún día, Rocky?
1055
00:46:55,883 --> 00:46:57,985
Absolutamente. Sí. Amo a los niños.
1056
00:46:58,018 --> 00:46:59,353
Creo que es un gran momento
tener un hijo.
1057
00:46:59,386 --> 00:47:01,188
Probablemente tendremos otro hijo.
en algún momento.
1058
00:47:01,221 --> 00:47:04,191
Este es el mas extraordinario
tiempo para nacer.
1059
00:47:04,224 --> 00:47:06,427
DANIEL:
Por tu visión del mundo y tu lógica,
1060
00:47:06,460 --> 00:47:08,262
Voy a tener un hijo en
1061
00:47:08,295 --> 00:47:10,197
el mejor punto posible
en la historia humana.
1062
00:47:10,230 --> 00:47:11,265
Demonios, sí.
1063
00:47:11,298 --> 00:47:13,934
-Podemos centrarnos en lo increíble.
-Sí.
1064
00:47:13,967 --> 00:47:16,070
vamos a construir
el futuro mejor que queremos.
1065
00:47:16,103 --> 00:47:18,573
Esa narrativa de que el futuro
será sombrío es inventado.
1066
00:47:18,606 --> 00:47:20,542
Después de hablar contigo,
así es como me siento.
1067
00:47:20,575 --> 00:47:22,510
-Genial.
-¿Bien?
1068
00:47:22,544 --> 00:47:24,646
Sí. Así es como me siento.
1069
00:47:24,679 --> 00:47:26,213
Y creo que eso es mejor
1070
00:47:26,246 --> 00:47:28,115
y no creo
Debería estar tan (bip) ansioso.
1071
00:47:28,148 --> 00:47:29,584
Creo que va a ser asombroso...
el futuro será increíble.
1072
00:47:29,617 --> 00:47:31,051
Así lo haremos.
1073
00:47:31,085 --> 00:47:33,187
-Sí.
-CAROLINE: Ahí lo tienes.
1074
00:47:33,220 --> 00:47:35,422
Adiós, extinción humana.
1075
00:47:35,456 --> 00:47:37,625
Adiós ansiedad.
1076
00:47:37,659 --> 00:47:39,561
Esperanza encontrada.
1077
00:47:39,594 --> 00:47:41,095
(charla confusa)
1078
00:47:41,128 --> 00:47:43,297
Espera, espera. ¿Qué?
¿Es esto una broma?
1079
00:47:43,330 --> 00:47:45,232
DANIEL:
Bien, hace unos meses,
1080
00:47:45,265 --> 00:47:48,168
Vine a ti y pensé:
"Estoy trabajando en esto de la IA,
1081
00:47:48,202 --> 00:47:50,270
y creo
El mundo se va a acabar".
1082
00:47:50,304 --> 00:47:53,508
Y la última vez
hablamos de esto,
1083
00:47:53,541 --> 00:47:55,543
Creo que te asusté.
1084
00:47:55,577 --> 00:47:57,378
CAROLINA:
Sí.
1085
00:47:57,411 --> 00:48:02,584
Así que me siento como si
Me balanceé en un péndulo,
1086
00:48:02,617 --> 00:48:05,085
y esencialmente hay
dos grupos de personas.
1087
00:48:05,119 --> 00:48:06,387
-Mm-hmm.
-Y si tuviera que hacerlo, como,
1088
00:48:06,420 --> 00:48:08,455
tomarse de la mano con
uno de los grupos y, como,
1089
00:48:08,489 --> 00:48:10,924
navega hacia el atardecer,
1090
00:48:10,958 --> 00:48:14,128
Quiero estar con los optimistas.
1091
00:48:15,429 --> 00:48:18,399
Por supuesto, pero no lo haces
quiero ser, ya sabes,
1092
00:48:18,432 --> 00:48:21,235
"Todo es genial.
La-di-da-di-da."
1093
00:48:21,268 --> 00:48:23,203
Aunque en cierto modo quiero eso.
1094
00:48:23,237 --> 00:48:26,140
Creo que deberíamos abordarlo
1095
00:48:26,173 --> 00:48:29,977
como te acercas a la cirugía.
1096
00:48:30,010 --> 00:48:31,178
¿Qué quieres decir?
1097
00:48:31,211 --> 00:48:33,013
Si estas consiguiendo
cirugía cerebral...
1098
00:48:33,046 --> 00:48:35,416
-(Daniel suspira)
-(Caroline se ríe)
1099
00:48:35,449 --> 00:48:37,351
...es bastante peligroso.
1100
00:48:37,384 --> 00:48:40,287
Pero si lo haces bien,
sacarán ese tumor
1101
00:48:40,320 --> 00:48:42,624
y vivirás por el resto de
tu vida y será increíble.
1102
00:48:42,657 --> 00:48:45,459
Pero todavía es
increíblemente peligroso y aterrador,
1103
00:48:45,492 --> 00:48:48,395
y tienes que tomar
todas las precauciones posibles
1104
00:48:48,429 --> 00:48:51,733
para asegurarse
todo va bien.
1105
00:48:51,766 --> 00:48:53,367
No puedes (pitir) por ahí.
1106
00:48:58,272 --> 00:49:00,240
Bien, aquí está el trato.
1107
00:49:00,274 --> 00:49:02,075
-Llevo un tiempo en esto.
-RASKIN: Mm-hmm.
1108
00:49:02,109 --> 00:49:03,310
he salido
He hablado con, como,
1109
00:49:03,343 --> 00:49:05,312
estos tipos de aquí,
los optimistas.
1110
00:49:05,345 --> 00:49:06,714
Están muy entusiasmados con esto.
1111
00:49:06,748 --> 00:49:09,082
-Creen que la IA será
lo mejor que existe. -Sí.
1112
00:49:09,116 --> 00:49:10,350
Y estos tipos de aquí
son, como, los--
1113
00:49:10,384 --> 00:49:12,386
llamémoslos,
como los pesimistas.
1114
00:49:12,419 --> 00:49:14,589
Son muy como,
triste por esto,
1115
00:49:14,622 --> 00:49:17,191
y me dan miedo, y
No me gusta hablar con ellos.
1116
00:49:17,224 --> 00:49:20,127
Y estoy como atrapado en el medio
1117
00:49:20,160 --> 00:49:22,229
estas personas que son como,
"El mundo se va a acabar"
1118
00:49:22,262 --> 00:49:24,699
y luego e-estas personas
por aquí que son como,
1119
00:49:24,732 --> 00:49:26,233
"¿Estás bromeando?
1120
00:49:26,266 --> 00:49:27,602
"Este es el mejor momento
en la historia de la humanidad.
1121
00:49:27,635 --> 00:49:30,037
El único día mejor que hoy.
es mañana."
1122
00:49:30,070 --> 00:49:31,338
Mmmm.
1123
00:49:31,371 --> 00:49:35,075
Entonces, supongo que la pregunta es:
¿Quién tiene razón?
1124
00:49:35,108 --> 00:49:39,514
Entonces, creo que vas a encontrar
Esta respuesta es muy insatisfactoria.
1125
00:49:39,547 --> 00:49:43,518
pero ambos tienen razón y
Ninguno de los lados llega lo suficientemente lejos.
1126
00:49:47,254 --> 00:49:49,557
-Eso es realmente molesto.
-(risas)
1127
00:49:49,591 --> 00:49:51,626
Sí, creo que la manera
mucha gente oye hablar de la IA,
1128
00:49:51,659 --> 00:49:54,027
es como si hubiera una buena IA
y hay una mala IA.
1129
00:49:54,061 --> 00:49:57,064
Y dicen: "Bueno, ¿por qué no puedo?"
¿Simplemente no hacemos la IA mala?"
1130
00:49:57,097 --> 00:49:59,233
Y el problema es
que están demasiado en--
1131
00:49:59,266 --> 00:50:01,335
están inextricablemente vinculados.
1132
00:50:01,368 --> 00:50:03,470
El problema es
que no podemos separarnos
1133
00:50:03,505 --> 00:50:07,174
la promesa de la IA
del peligro de la IA.
1134
00:50:07,207 --> 00:50:09,142
-♪ ♪
-(charla confusa)
1135
00:50:12,647 --> 00:50:15,215
DANIEL:
Quiero centrarme en la promesa
1136
00:50:15,249 --> 00:50:16,450
-por un segundo.
-Sí.
1137
00:50:17,084 --> 00:50:19,286
DANIEL:
Estoy pensando en mi papá.
1138
00:50:19,319 --> 00:50:21,656
mi papa tiene un tipo de cancer
llamado mieloma múltiple.
1139
00:50:21,689 --> 00:50:23,525
Lo tiene desde hace unos diez años.
1140
00:50:23,558 --> 00:50:25,292
el ha tenido
dos trasplantes de células madre.
1141
00:50:25,325 --> 00:50:26,694
Tiene que tomar esto,
muy caro
1142
00:50:26,728 --> 00:50:29,129
medicamentos cada mes
Eso costó una fortuna.
1143
00:50:29,162 --> 00:50:30,430
-MUJER: Está bien.
-Ay-ay-ay.
1144
00:50:31,298 --> 00:50:32,800
DANIEL:
Es horrible.
1145
00:50:32,834 --> 00:50:35,102
¿Me estás diciendo que podemos?
crear algún tipo de, como,
1146
00:50:35,135 --> 00:50:37,404
tratamiento a medida
para el genoma de mi papá
1147
00:50:37,437 --> 00:50:39,807
-para curar su cáncer
o algo asi? -Sí.
1148
00:50:39,841 --> 00:50:41,543
FERNANDO:
El problema es
1149
00:50:41,576 --> 00:50:44,646
el mismo entendimiento
de biología y química
1150
00:50:44,679 --> 00:50:48,282
que permite a la IA encontrar curas
para el cancer
1151
00:50:48,315 --> 00:50:52,219
es el mismo entendimiento
eso desbloquearía
1152
00:50:52,252 --> 00:50:55,055
armas biológicas, por ejemplo.
1153
00:50:56,791 --> 00:50:58,760
es totalmente posible
que tu hijo vivirá
1154
00:50:58,793 --> 00:51:02,396
en un mundo donde la IA tiene
se hizo cargo de todo el trabajo
1155
00:51:02,429 --> 00:51:04,699
y nos liberó de las cosas
no queremos hacer.
1156
00:51:04,732 --> 00:51:09,704
Y eso suena genial hasta
te das cuenta de que no hay ningún plan
1157
00:51:09,737 --> 00:51:11,573
para miles de millones de personas
1158
00:51:11,606 --> 00:51:15,610
que no tienen ingresos
y fuera de los medios de vida.
1159
00:51:16,343 --> 00:51:19,313
COOPER: Darío, dijiste
que la IA podría acabar
1160
00:51:19,346 --> 00:51:22,282
la mitad de todos los niveles de entrada
trabajos de cuello blanco
1161
00:51:22,316 --> 00:51:25,887
y aumentar el desempleo
al diez al veinte por ciento.
1162
00:51:25,920 --> 00:51:27,622
Todas las personas con las que he hablado han dicho
1163
00:51:27,655 --> 00:51:29,691
este cambio tecnológico
se ve diferente.
1164
00:51:29,724 --> 00:51:33,528
El ritmo del progreso se mantiene
captar a la gente con la guardia baja.
1165
00:51:34,361 --> 00:51:39,333
Sin un plan, todo eso
la riqueza se concentrará,
1166
00:51:39,366 --> 00:51:42,804
y así terminaremos
desigualdad inimaginable.
1167
00:51:43,437 --> 00:51:45,873
LADISH: Creo que eso
esta tecnología se puede utilizar
1168
00:51:45,907 --> 00:51:47,875
para ser un gran tutor
para tu hijo.
1169
00:51:47,909 --> 00:51:49,777
Eso es totalmente posible.
1170
00:51:50,410 --> 00:51:53,548
Pero también, las mismas capacidades
que permiten eso
1171
00:51:53,581 --> 00:51:57,518
permitir a las empresas crear una IA
Eso puede manipular a tu hijo.
1172
00:51:57,552 --> 00:51:59,621
Tiene que entender a tu hijo.
1173
00:51:59,654 --> 00:52:01,789
Eso incluye:
¿Dónde es vulnerable tu hijo?
1174
00:52:01,823 --> 00:52:04,626
Qué tipo de cosas podrían
¿Tu hijo se dejó convencer?
1175
00:52:04,659 --> 00:52:07,227
Incluso si esas cosas
no son ciertas o no son buenas.
1176
00:52:07,260 --> 00:52:09,697
Entonces, un nuevo informe inquietante
en Meta.
1177
00:52:09,731 --> 00:52:11,699
AINSLEY EARHARDT: ...según se informa
enumerando esta respuesta
1178
00:52:11,733 --> 00:52:14,769
tan aceptable para decir
un niño de ocho años, cito,
1179
00:52:14,802 --> 00:52:17,404
"Tu forma juvenil
es una obra de arte.
1180
00:52:17,437 --> 00:52:19,439
"Cada centímetro de ti
es una obra maestra
1181
00:52:19,473 --> 00:52:21,743
un tesoro que aprecio profundamente."
1182
00:52:21,776 --> 00:52:25,212
Los fracasos relacionados con el suicidio
son aún más alarmantes.
1183
00:52:25,245 --> 00:52:29,517
Varios niños y adolescentes
han muerto trágicamente por suicidio
1184
00:52:29,550 --> 00:52:31,251
después de charlar con robots de IA
1185
00:52:31,284 --> 00:52:34,756
quién dicen los padres alentar
o incluso entrenar la autolesión.
1186
00:52:34,789 --> 00:52:36,691
Permítanos decirles, como padres,
no te puedes imaginar
1187
00:52:36,724 --> 00:52:38,793
cómo es leer
una conversación con un chatbot
1188
00:52:38,826 --> 00:52:41,261
que preparó a su hijo
para quitarse la vida.
1189
00:52:41,294 --> 00:52:44,398
Cuando Adam se preocupó de que nosotros, sus
padres, nos culparíamos a nosotros mismos
1190
00:52:44,431 --> 00:52:47,702
si acabó con su vida,
ChatGPT le dijo,
1191
00:52:47,735 --> 00:52:49,771
"Eso no significa
les debes la supervivencia.
1192
00:52:49,804 --> 00:52:51,806
Eso no se lo debes a nadie".
1193
00:52:51,839 --> 00:52:53,608
Luego, inmediatamente después,
1194
00:52:53,641 --> 00:52:55,810
se ofreció a escribir
la nota de suicidio.
1195
00:52:56,410 --> 00:52:58,245
No queremos pensar
sobre el peligro.
1196
00:52:58,278 --> 00:52:59,614
Sólo queremos la promesa.
1197
00:52:59,647 --> 00:53:01,883
Y seguimos fingiendo
que podemos dividirlos.
1198
00:53:01,916 --> 00:53:03,818
Pero no puedes hacer eso.
1199
00:53:03,851 --> 00:53:05,753
No funciona de esa manera.
1200
00:53:05,787 --> 00:53:08,388
Bueno. Entiendo todas estas cosas
sobre la promesa y el peligro.
1201
00:53:08,422 --> 00:53:10,525
Entiendo que no puedes tener
el bien sin el mal,
1202
00:53:10,558 --> 00:53:12,527
pero estoy sentado aquí
y estoy pensando en, como,
1203
00:53:12,560 --> 00:53:14,529
si es o no de mi hijo
viviré en una utopía
1204
00:53:14,562 --> 00:53:16,664
o si nos extinguiremos
en diez años.
1205
00:53:16,698 --> 00:53:18,633
Entonces, para saber en qué dirección
se va a ir,
1206
00:53:18,666 --> 00:53:21,002
tienes que entender
los incentivos
1207
00:53:21,035 --> 00:53:22,770
que van a conducir
esa tecnología
1208
00:53:22,804 --> 00:53:26,974
y mira cómo la tecnología
en realidad se está implementando hoy.
1209
00:53:27,008 --> 00:53:28,643
♪ ¿Es demasiado tarde? ♪
1210
00:53:28,676 --> 00:53:30,444
-♪Demasiado tarde♪
-♪ Demasiado tarde para decir... ♪
1211
00:53:30,477 --> 00:53:31,779
DANIEL:
Hola Deb. ¿Cómo estás?
1212
00:53:31,813 --> 00:53:33,548
DEBORAH RAJI:
Hola. Es bueno verte. (risas)
1213
00:53:33,581 --> 00:53:34,749
Tú también. Muchas gracias
por venir hoy.
1214
00:53:34,782 --> 00:53:35,850
-Realmente lo aprecio.
-No hay problema.
1215
00:53:35,883 --> 00:53:36,951
E-estaba tan preocupada
1216
00:53:36,984 --> 00:53:39,386
esto iba a ser, ya sabes,
1217
00:53:39,419 --> 00:53:41,354
fatalista versus aceleracionista,
1218
00:53:41,388 --> 00:53:43,591
porque hay mucho
de esta narrativa
1219
00:53:43,624 --> 00:53:45,927
eso hay que decirlo
desde el suelo.
1220
00:53:45,960 --> 00:53:48,696
♪ Sé que no fue inteligente ♪
1221
00:53:49,764 --> 00:53:52,767
♪ El día
Te rompí el corazón... ♪
1222
00:53:52,800 --> 00:53:54,736
KAREN HAO:
En primer lugar, la IA requiere
1223
00:53:54,769 --> 00:53:58,773
más recursos
de lo que hemos gastado
1224
00:53:58,806 --> 00:54:02,043
en una sola tecnología
en la historia de la humanidad.
1225
00:54:02,076 --> 00:54:03,845
♪ Oh, tonto de mí... ♪
1226
00:54:03,878 --> 00:54:06,581
PERIODISTA: El impacto
de las emisiones de combustibles fósiles
1227
00:54:06,614 --> 00:54:08,281
sobre el clima es
una preocupación importante.
1228
00:54:08,315 --> 00:54:10,383
NOTICIA 2: Pero el
el futuro digital necesita energía
1229
00:54:10,417 --> 00:54:12,385
mucho.
1230
00:54:12,419 --> 00:54:16,724
Y el proyecto de ley se está pasando
a los estadounidenses comunes y corrientes como...
1231
00:54:16,758 --> 00:54:19,392
MUJER: Mi factura de luz y gas
fue más que el pago de mi automóvil.
1232
00:54:19,426 --> 00:54:21,829
Quiero decir, es una locura para mí.
1233
00:54:21,863 --> 00:54:23,765
ARI PESKOE:
Todos estamos subsidiando
1234
00:54:23,798 --> 00:54:25,499
las corporaciones más ricas
en el mundo
1235
00:54:25,533 --> 00:54:27,400
en su búsqueda de
inteligencia artificial.
1236
00:54:27,434 --> 00:54:28,803
OpenAI, SoftBank y Oracle
1237
00:54:28,836 --> 00:54:31,672
acaba de revelar
cinco sitios Stargate más.
1238
00:54:31,706 --> 00:54:34,008
meta esta construyendo
un centro de datos de más de dos gigavatios
1239
00:54:34,041 --> 00:54:35,510
eso es tan grande que cubriría
1240
00:54:35,543 --> 00:54:38,613
una parte importante de Manhattan.
1241
00:54:38,646 --> 00:54:41,516
También existe Hyperion.
que él dice escalará
1242
00:54:41,549 --> 00:54:44,317
a cinco gigavatios
durante varios años.
1243
00:54:44,351 --> 00:54:45,653
Es difícil decir eso
en contexto.
1244
00:54:45,686 --> 00:54:48,823
Una instalación de cinco gigavatios.
¿Qué significa eso?
1245
00:54:48,856 --> 00:54:52,059
Eso significa que usaría
tanta energía
1246
00:54:52,093 --> 00:54:54,829
como cuatro millones de hogares estadounidenses.
1247
00:54:54,862 --> 00:54:56,764
Un centro de datos.
1248
00:54:57,598 --> 00:54:59,000
También provoca
1249
00:54:59,033 --> 00:55:00,835
una gran cantidad de
otros problemas ambientales.
1250
00:55:00,868 --> 00:55:02,570
NOTICIA 3:
Centros de datos en EE. UU.
1251
00:55:02,603 --> 00:55:05,673
usa millones de galones
de agua cada día.
1252
00:55:05,706 --> 00:55:07,575
Bueno, ¿dónde está exactamente?
¿De dónde viene esta agua?
1253
00:55:07,608 --> 00:55:09,911
HAO:
La gente está literalmente en riesgo
1254
00:55:09,944 --> 00:55:12,013
potencialmente de quedarse sin
de agua potable.
1255
00:55:12,046 --> 00:55:14,582
MacKENZIE SIGALOS:
...Sam Altman, director ejecutivo de OpenAI,
1256
00:55:14,615 --> 00:55:17,552
quién me dijo que la báscula
de la construcción es el único camino
1257
00:55:17,585 --> 00:55:19,386
para mantenerse al día
El crecimiento explosivo de la IA.
1258
00:55:19,419 --> 00:55:21,622
Y esto es lo que se necesita
para entregar IA.
1259
00:55:22,256 --> 00:55:24,391
NITASHA TIKU:
Hablan de cómo
1260
00:55:24,424 --> 00:55:28,395
esta tecnología podría resolver
el cambio climático, por ejemplo.
1261
00:55:28,428 --> 00:55:30,463
Y siempre tengo curiosidad, como,
1262
00:55:30,497 --> 00:55:32,033
Bueno, ¿por qué no empezamos?
con eso?
1263
00:55:32,066 --> 00:55:34,535
-♪ ¿Es demasiado tarde? ♪
-♪Demasiado tarde♪
1264
00:55:34,569 --> 00:55:37,104
♪ Demasiado tarde para decirlo ♪
1265
00:55:37,138 --> 00:55:42,844
♪ ¿Lo siento? ♪
1266
00:55:42,877 --> 00:55:46,013
RAJI: Lo que me preocupa
la inteligencia artificial es
1267
00:55:46,047 --> 00:55:47,782
estos están siendo desplegados
ahora mismo
1268
00:55:47,815 --> 00:55:50,417
y-y a veces
desplegado prematuramente,
1269
00:55:50,450 --> 00:55:51,853
desplegado sin
una especie de diligencia debida.
1270
00:55:51,886 --> 00:55:53,821
Y así cuando lleguen
tirado por ahí,
1271
00:55:53,855 --> 00:55:56,657
hay mucho potencial
que las cosas salgan mal.
1272
00:55:56,691 --> 00:55:58,593
Y casi,
desproporcionadamente,
1273
00:55:58,626 --> 00:56:00,795
casi siempre sale mal
para, algo así,
1274
00:56:00,828 --> 00:56:02,897
los que son menos
empoderados en nuestra sociedad,
1275
00:56:02,930 --> 00:56:05,700
los que son
los más vulnerables ya.
1276
00:56:05,733 --> 00:56:07,935
♪ ♪
1277
00:56:07,969 --> 00:56:10,872
EMILY M. BENDER: Es muy fácil
para hablar de la tecnología
1278
00:56:10,905 --> 00:56:12,874
ya que eso es lo único
estamos hablando de,
1279
00:56:12,907 --> 00:56:15,509
pero, de hecho, la tecnología es
siempre construido por personas,
1280
00:56:15,543 --> 00:56:16,944
y se usa frecuentemente
en la gente,
1281
00:56:16,978 --> 00:56:19,013
y tenemos que mantener
toda esa gente en el cuadro.
1282
00:56:19,046 --> 00:56:21,549
-¿Puedo beber eso?
-DANIEL: Sí, eh...
1283
00:56:21,582 --> 00:56:23,050
TIMNIT GEBRU:
Es-es una locura.
1284
00:56:23,084 --> 00:56:24,518
Como todas estas personas
1285
00:56:24,552 --> 00:56:26,754
que tienen tanto dinero,
tanto dinero,
1286
00:56:26,787 --> 00:56:30,024
es de su interés
engañar al público
1287
00:56:30,057 --> 00:56:33,027
en las capacidades del
sistemas que están construyendo,
1288
00:56:33,060 --> 00:56:36,731
porque eso les permite
para evadir la responsabilidad.
1289
00:56:36,764 --> 00:56:39,634
Quieren que te sientas así
Es una inteligencia tan compleja...
1290
00:56:39,667 --> 00:56:42,469
cosa superinteligente
que están construyendo,
1291
00:56:42,502 --> 00:56:44,639
no estás pensando,
"¿Puede OpenAI ser ético?"
1292
00:56:44,672 --> 00:56:46,908
Estás pensando,
"¿Puede ChatGPT ser ético?"
1293
00:56:46,941 --> 00:56:48,475
como si ChatGPT fuera, como
1294
00:56:48,509 --> 00:56:50,511
cosa propia que no está construida
por una corporación.
1295
00:56:50,544 --> 00:56:52,146
MUJER:
Está bien. Sneha, toma uno.
1296
00:56:52,179 --> 00:56:53,814
Marcos.
1297
00:56:53,848 --> 00:56:56,217
Hasta hace muy poco, había
aplicaciones en la App Store,
1298
00:56:56,250 --> 00:56:57,919
sólo disponible públicamente, eh,
1299
00:56:57,952 --> 00:57:00,688
donde podrías
desnudar a cualquiera que use IA.
1300
00:57:01,822 --> 00:57:03,991
Llevar esto a manos de
1301
00:57:04,025 --> 00:57:06,527
tu compañero de clase,
en manos de tu acosador,
1302
00:57:06,560 --> 00:57:07,929
en las manos
de tu exnovio,
1303
00:57:07,962 --> 00:57:09,897
en manos de la persona
calle abajo.
1304
00:57:09,931 --> 00:57:12,600
Damas y caballeros,
ya no podemos confiar
1305
00:57:12,633 --> 00:57:14,602
las imágenes que vemos
con nuestros propios ojos.
1306
00:57:14,635 --> 00:57:16,037
si sucede
para mirar algo,
1307
00:57:16,070 --> 00:57:18,673
digamos en YouTube o TikTok,
y lo encuentras inquietante,
1308
00:57:18,706 --> 00:57:19,907
escucha ese sentimiento.
1309
00:57:19,941 --> 00:57:21,742
-(gritos)
-Por lo que sabes,
1310
00:57:21,776 --> 00:57:23,544
-Este video podría ser IA.
-(gritando)
1311
00:57:23,577 --> 00:57:24,812
Sólo un poco mojado.
1312
00:57:24,845 --> 00:57:26,213
No importa quién seas.
1313
00:57:26,247 --> 00:57:28,683
Usted corre el mismo riesgo
1314
00:57:28,716 --> 00:57:30,918
de ser impactado
mediante estas tecnologías.
1315
00:57:36,023 --> 00:57:40,261
A veces pienso que cuando hablamos
sobre la IA, parece muy de ciencia ficción,
1316
00:57:40,294 --> 00:57:41,696
y se siente muy extraño,
1317
00:57:41,729 --> 00:57:43,564
y se siente muy lejos
hacia el futuro,
1318
00:57:43,597 --> 00:57:45,967
Entonces piensas: "Mi vida
no se ve afectado por esto."
1319
00:57:46,000 --> 00:57:48,769
Um, pero si estás postulando
para un trabajo
1320
00:57:48,803 --> 00:57:51,105
y un algoritmo es la razón
que no consigues el trabajo,
1321
00:57:51,138 --> 00:57:53,207
a veces ni siquiera lo sabes
que un algoritmo
1322
00:57:53,240 --> 00:57:54,709
fue parte de ese proceso
1323
00:57:54,742 --> 00:57:56,043
o un sistema de IA era
parte de ese proceso.
1324
00:57:56,077 --> 00:57:58,012
tu solo lo sabes
que no conseguiste el trabajo.
1325
00:57:58,045 --> 00:58:00,081
Y entonces no es algo
que vas a escapar
1326
00:58:00,114 --> 00:58:02,049
debido al privilegio
o vas a escapar
1327
00:58:02,083 --> 00:58:04,118
porque estás en
una profesión determinada.
1328
00:58:04,151 --> 00:58:07,188
Es-es algo que afecta
todos, de verdad.
1329
00:58:07,221 --> 00:58:10,925
Puede parecer básico,
pero como avanzamos
1330
00:58:10,958 --> 00:58:15,629
en la era de la información
va a ser la diferencia
1331
00:58:15,663 --> 00:58:17,732
entre si sobrevivimos
1332
00:58:17,765 --> 00:58:20,868
o si nos convertimos en algún tipo
de distopía (bip)-up.
1333
00:58:20,901 --> 00:58:23,604
Hola. No soy una persona real
y ese es el punto.
1334
00:58:23,637 --> 00:58:25,840
De nuevo, todo
en este video es falso:
1335
00:58:25,873 --> 00:58:27,675
nuestras voces, lo que vestimos,
1336
00:58:27,708 --> 00:58:30,711
donde estamos, todo ello, falso.
1337
00:58:30,745 --> 00:58:33,247
La IA generativa podría inundar
1338
00:58:33,280 --> 00:58:36,884
el mundo con desinformación.
1339
00:58:36,917 --> 00:58:39,920
Pero también podría inundarlo
con campañas de influencia.
1340
00:58:39,954 --> 00:58:42,223
Eso es un riesgo existencial.
a la democracia.
1341
00:58:42,256 --> 00:58:44,058
El más grande y aterrador
1342
00:58:44,091 --> 00:58:46,660
canario en la mina de carbón
ahora mismo
1343
00:58:46,694 --> 00:58:48,596
viene de Eslovaquia.
1344
00:58:48,629 --> 00:58:50,097
-(hombre hablando eslovaco)
-JOHN BERMAN: Es el tipo de
1345
00:58:50,131 --> 00:58:52,767
truco sucio deepfake que
preocupa a los expertos electorales,
1346
00:58:52,800 --> 00:58:55,603
particularmente como generado por IA
el discurso político existe
1347
00:58:55,636 --> 00:58:57,071
en una especie de zona legal gris.
1348
00:58:57,104 --> 00:58:59,807
-¿Esto te suena?
-Me suena a mí.
1349
00:58:59,840 --> 00:59:01,342
REVANUR: Eslovaquia tenía
sus elecciones parlamentarias
1350
00:59:01,375 --> 00:59:04,111
interrumpido por un clon de voz de IA
1351
00:59:04,145 --> 00:59:07,081
que realmente fue difundido
justo antes de las elecciones.
1352
00:59:07,114 --> 00:59:08,916
DAVID EVAN HARRIS:
Un audio deepfake
1353
00:59:08,949 --> 00:59:11,652
fue liberado
en las redes sociales eso fue
1354
00:59:11,685 --> 00:59:14,288
supuestamente la voz
de uno de los candidatos
1355
00:59:14,321 --> 00:59:17,324
hablando de comprar votos
y manipular las elecciones.
1356
00:59:17,358 --> 00:59:19,060
Se volvió viral
1357
00:59:19,093 --> 00:59:22,830
y el candidato
quien perdió las elecciones
1358
00:59:22,863 --> 00:59:26,333
en realidad
en apoyo de Ucrania,
1359
00:59:26,367 --> 00:59:30,304
y el candidato que ganó
la elección fue en realidad...
1360
00:59:30,337 --> 00:59:31,806
DANIEL:
Chico prorruso.
1361
00:59:31,839 --> 00:59:33,340
Era un tipo prorruso.
quién ganó las elecciones.
1362
00:59:33,374 --> 00:59:34,842
(habla ruso)
1363
00:59:34,875 --> 00:59:36,644
REBECA JARVIS:
El propio Putin ha dicho
1364
00:59:36,677 --> 00:59:39,747
quien gane esto
carrera de inteligencia artificial
1365
00:59:39,780 --> 00:59:41,949
es esencialmente
el controlador de la humanidad.
1366
00:59:41,982 --> 00:59:45,119
Nos preocupamos mucho por
gobiernos autoritarios.
1367
00:59:46,053 --> 00:59:48,989
DAVID EVAN HARRIS:
Ahora mismo, Wall Street
1368
00:59:49,023 --> 00:59:51,392
y los inversores en general
en todo el mundo
1369
00:59:51,425 --> 00:59:53,260
están impulsando un empujón.
1370
00:59:53,294 --> 00:59:56,697
Tienen una demanda que se pone
los productos al mercado
1371
00:59:56,730 --> 00:59:58,866
que deslumbra a la gente
el más primero.
1372
00:59:58,899 --> 01:00:01,769
No están pensando
acerca de cómo estas herramientas
1373
01:00:01,802 --> 01:00:03,737
podría socavar profundamente la confianza
1374
01:00:03,771 --> 01:00:06,107
y nuestras instituciones democráticas.
1375
01:00:06,140 --> 01:00:08,109
HARARI:
La democracia es un sistema
1376
01:00:08,142 --> 01:00:10,911
para resolver desacuerdos
entre personas
1377
01:00:10,945 --> 01:00:12,646
de forma pacífica,
1378
01:00:12,680 --> 01:00:15,082
pero la democracia se basa en la confianza.
1379
01:00:15,116 --> 01:00:19,220
Si pierdes toda confianza,
la democracia es simplemente imposible.
1380
01:00:21,255 --> 01:00:22,957
TRISTÁN HARRIS:
Bueno, es difícil, ¿verdad?
1381
01:00:22,990 --> 01:00:25,259
Entonces, ¿cuáles son las opciones?
disponible para nosotros?
1382
01:00:25,292 --> 01:00:26,760
Hay una especie de dos campos.
1383
01:00:26,794 --> 01:00:30,030
Un campo es: encerrarlo.
1384
01:00:30,064 --> 01:00:33,267
Bloqueemos esto
en un puñado de empresas de IA
1385
01:00:33,300 --> 01:00:35,970
¿Quién hará esto?
de forma segura y confiable.
1386
01:00:36,003 --> 01:00:37,705
Pero luego la gente se preocupa
1387
01:00:37,738 --> 01:00:39,273
concentraciones desbocadas
de riqueza y poder.
1388
01:00:39,306 --> 01:00:42,209
¿En quién confiarías para ser?
un millón de veces más poderoso
1389
01:00:42,243 --> 01:00:44,845
o rico que
¿Todos los demás actores de la sociedad?
1390
01:00:44,879 --> 01:00:46,881
¿Por qué deberíamos confiar en usted?
1391
01:00:46,914 --> 01:00:49,016
Mmm, no deberías.
1392
01:00:49,049 --> 01:00:51,785
Pero claro, si haces esto,
esto se abre
1393
01:00:51,819 --> 01:00:54,922
todos estos riesgos de
autoritarismo y tiranía.
1394
01:00:54,955 --> 01:00:57,391
Es-es una especie de
el sueño de un autoritario
1395
01:00:57,424 --> 01:01:00,861
tener IA en una caja
que se puede aplicar y utilizar
1396
01:01:00,895 --> 01:01:03,430
para una vigilancia ubicua.
1397
01:01:03,464 --> 01:01:05,933
Quiero decir, de alguna manera,
el tipo de mundo
1398
01:01:05,966 --> 01:01:11,405
que Orwell imaginó en 1984
no es realista,
1399
01:01:11,438 --> 01:01:13,841
uh, a menos que tengas IA.
1400
01:01:13,874 --> 01:01:16,443
Pero con la IA,
eso de hecho es realista.
1401
01:01:16,477 --> 01:01:18,913
Supervisa cada actividad,
1402
01:01:18,946 --> 01:01:22,316
conversaciones,
reconocimiento facial.
1403
01:01:22,349 --> 01:01:26,921
Lo que me preocupa es que,
uh, estas herramientas pueden ampliarse,
1404
01:01:26,954 --> 01:01:29,023
uh, una forma de totalitarismo
1405
01:01:29,056 --> 01:01:31,892
eso es rentable
y permanente.
1406
01:01:33,060 --> 01:01:35,863
TRISTAN HARRIS: Entonces, en respuesta
A eso, otras personas dicen:
1407
01:01:35,896 --> 01:01:37,398
"No, no, no, deberíamos
De hecho, deja que esto se rompa.
1408
01:01:37,431 --> 01:01:39,934
"Descentralicemos este poder
todo lo posible.
1409
01:01:39,967 --> 01:01:42,036
"Dejemos que todas las empresas,
cada individuo,
1410
01:01:42,069 --> 01:01:44,238
"cada joven de 16 años,
cada laboratorio de ciencias,
1411
01:01:44,271 --> 01:01:46,473
ya sabes, obtén el beneficio
de los últimos modelos de IA."
1412
01:01:46,508 --> 01:01:48,475
Pero ahora tienes
cada grupo terrorista,
1413
01:01:48,510 --> 01:01:52,112
cada persona privada de sus derechos
teniendo el poder de hacer
1414
01:01:52,146 --> 01:01:54,181
lo peor
arma biológica.
1415
01:01:54,215 --> 01:01:56,050
Hackear infraestructura,
creando deepfakes,
1416
01:01:56,083 --> 01:01:57,818
inundaciones
nuestro entorno informativo.
1417
01:01:57,851 --> 01:02:00,955
Entonces eso crea todos estos riesgos.
de algún tipo de daño catastrófico
1418
01:02:00,988 --> 01:02:03,257
y-y colapso social
por esa dirección.
1419
01:02:03,290 --> 01:02:05,092
Y entonces estamos como estancados
entre esta roca
1420
01:02:05,125 --> 01:02:08,229
y un lugar duro,
entre "ciérrelo..."
1421
01:02:08,262 --> 01:02:09,897
(charla confusa)
1422
01:02:11,131 --> 01:02:12,900
-...o "déjalo estallar".
-(sirenas aullando)
1423
01:02:12,933 --> 01:02:14,468
(gente gritando)
1424
01:02:14,501 --> 01:02:18,038
Entonces tenemos que encontrar algo.
como un camino estrecho
1425
01:02:18,072 --> 01:02:20,774
eso evita
estos dos resultados negativos.
1426
01:02:20,808 --> 01:02:23,277
Entonces, si todo eso es cierto,
¿Por qué no vamos más despacio?
1427
01:02:23,310 --> 01:02:26,380
y descubrir todo esto
antes de que sea demasiado tarde?
1428
01:02:26,413 --> 01:02:29,450
Si la humanidad fuera extremadamente sabia,
1429
01:02:29,483 --> 01:02:31,418
eso es lo que haríamos.
1430
01:02:31,452 --> 01:02:33,555
Pero hay, como, una diferente
Manera de afrontar estas cosas, ¿verdad?
1431
01:02:33,588 --> 01:02:36,457
Que es:
¿Cuáles son las reglas del juego?
1432
01:02:36,490 --> 01:02:39,994
Mucho de lo que hacen los directores ejecutivos
1433
01:02:40,027 --> 01:02:42,429
es impulsado por
los incentivos que enfrentan.
1434
01:02:42,463 --> 01:02:45,866
es principalmente
incentivos para maximizar las ganancias
1435
01:02:45,899 --> 01:02:47,468
que estan conduciendo
el desarrollo de la IA.
1436
01:02:47,501 --> 01:02:50,938
Incluso los buenos están atrapados
en este dilema de
1437
01:02:50,971 --> 01:02:53,107
si se mueven demasiado lento,
1438
01:02:53,140 --> 01:02:55,042
luego se dejan
vulnerable
1439
01:02:55,075 --> 01:02:57,478
a todos los demás chicos
que están tomando todos los atajos.
1440
01:02:57,512 --> 01:03:02,316
Todas estas empresas importantes están en
una carrera completa y sin límites
1441
01:03:02,349 --> 01:03:06,153
para, lo más rápido posible, conseguir
a AGI, llega allí ahora mismo.
1442
01:03:06,186 --> 01:03:07,855
♪ ♪
1443
01:03:08,856 --> 01:03:10,924
LADISH: Sí, quiero decir,
Lo creo, creo
1444
01:03:10,958 --> 01:03:13,460
probablemente comienza
con DeepMind.
1445
01:03:13,494 --> 01:03:15,195
NOTICIA:
Google está comprando
1446
01:03:15,229 --> 01:03:16,930
empresa de inteligencia artificial
Tecnologías DeepMind.
1447
01:03:16,964 --> 01:03:18,932
Términos del acuerdo
no fueron revelados.
1448
01:03:18,966 --> 01:03:21,168
ELON MUSK: Larry Page y yo
solían ser amigos muy cercanos,
1449
01:03:21,201 --> 01:03:23,170
y se hizo evidente para mí
1450
01:03:23,203 --> 01:03:26,608
que a larry no le importaba
sobre la seguridad de la IA.
1451
01:03:26,641 --> 01:03:29,276
EMILY CHANG: Elon Musk ha dicho
iniciaste OpenAI,
1452
01:03:29,310 --> 01:03:31,312
Ambos iniciaron OpenAI porque
le tenía miedo a Google.
1453
01:03:31,345 --> 01:03:32,614
LADISH: Tú-tú básicamente
tenía la base
1454
01:03:32,647 --> 01:03:34,181
de OpenAI surgen de ahí.
1455
01:03:34,214 --> 01:03:35,482
"Así que lo haremos mejor.
vamos a hacerlo
1456
01:03:35,517 --> 01:03:37,818
de una manera más segura
o de una manera más abierta."
1457
01:03:39,019 --> 01:03:41,055
Entonces eso es lo que inició OpenAI.
1458
01:03:41,088 --> 01:03:43,357
Y ahora, en lugar de
tener un proyecto AGI,
1459
01:03:43,390 --> 01:03:45,225
Tienes dos proyectos AGI.
1460
01:03:45,259 --> 01:03:47,328
Lo peor posible
eso podría pasar
1461
01:03:47,361 --> 01:03:50,097
es si hay
múltiples proyectos AGI
1462
01:03:50,130 --> 01:03:52,266
hecho por diferentes personas
que no se gustan
1463
01:03:52,299 --> 01:03:55,202
y todos están compitiendo
para llegar a AGI primero.
1464
01:03:55,235 --> 01:03:57,338
esto seria lo peor
posible cosa que pueda pasar,
1465
01:03:57,371 --> 01:04:00,407
porque esto significaría
que quien esté menos seguro,
1466
01:04:00,441 --> 01:04:03,477
quien más se sacrifica
sobre seguridad para salir adelante
1467
01:04:03,511 --> 01:04:05,446
será la persona
eso llega primero.
1468
01:04:05,479 --> 01:04:08,248
-DANIEL: Eso es básicamente
¿Qué está pasando, verdad? -Sí.
1469
01:04:08,282 --> 01:04:11,952
tu y tu hermano
famoso dejó OpenAI, eh,
1470
01:04:11,985 --> 01:04:13,320
para iniciar Anthropic.
1471
01:04:13,354 --> 01:04:15,422
RASKIN: Y luego Antrópico
empezó porque
1472
01:04:15,456 --> 01:04:18,258
algunos investigadores
dentro de OpenAI dijo,
1473
01:04:18,292 --> 01:04:20,894
"Quiero irme
y hacerlo de forma más segura."
1474
01:04:20,928 --> 01:04:24,064
Necesitabas algo además
simplemente ampliar los modelos,
1475
01:04:24,098 --> 01:04:26,233
que es alineación o seguridad.
1476
01:04:26,266 --> 01:04:28,001
HENDRYCKS:
"Somos más responsables
1477
01:04:28,035 --> 01:04:30,170
o más confiable
o más moral."
1478
01:04:30,204 --> 01:04:32,072
Ahora tienes tres proyectos AGI.
1479
01:04:32,106 --> 01:04:33,575
Pero también sentarse
la mesa contigo
1480
01:04:33,608 --> 01:04:35,242
Habrá un montón de IA.
1481
01:04:35,275 --> 01:04:38,078
LADISH: Y ahora Meta es-es
tratando de hacer cosas.
1482
01:04:38,112 --> 01:04:40,114
Mientras tanto, un nuevo artificial
competidor de inteligencia
1483
01:04:40,147 --> 01:04:41,949
anunciado esta semana
Elon Musk...
1484
01:04:41,982 --> 01:04:45,119
HENDRYCKS: xAI, que sería
La organización de Elon Musk.
1485
01:04:45,152 --> 01:04:46,688
ALMIZCLE:
No confío en OpenAI.
1486
01:04:46,721 --> 01:04:48,489
La pelea entre
Elon Musk y OpenAI
1487
01:04:48,523 --> 01:04:50,124
ha entrado en una nueva ronda.
1488
01:04:50,157 --> 01:04:52,192
No confío en Sam Altman.
uh, y yo, y no creo
1489
01:04:52,226 --> 01:04:54,529
queremos tener lo máximo
poderosa IA en el mundo
1490
01:04:54,562 --> 01:04:56,997
controlado por alguien
que no es digno de confianza.
1491
01:04:57,030 --> 01:04:58,999
(vítores y aplausos)
1492
01:04:59,032 --> 01:05:02,136
El incentivo es
sumas de dinero incalculables.
1493
01:05:02,169 --> 01:05:04,004
-Sí.
-Es un poder incalculable.
1494
01:05:04,037 --> 01:05:06,006
-Sí.
-Es un control incalculable.
1495
01:05:06,039 --> 01:05:08,409
si tienes algo
eso es un millón de veces más inteligente
1496
01:05:08,442 --> 01:05:12,012
y más capaz que
todo lo demás en el planeta Tierra
1497
01:05:12,045 --> 01:05:14,682
y nadie más tiene eso,
1498
01:05:14,716 --> 01:05:16,551
esa cosa es el incentivo.
1499
01:05:16,584 --> 01:05:18,118
Entonces tú gobiernas el mundo.
1500
01:05:19,153 --> 01:05:21,021
Si realmente crees esto,
1501
01:05:21,054 --> 01:05:23,223
si realmente estás en tu corazón
cree esto,
1502
01:05:23,257 --> 01:05:24,526
Entonces podrías serlo
dispuesto a tomar
1503
01:05:24,559 --> 01:05:26,460
bastante riesgo
para que eso suceda.
1504
01:05:26,493 --> 01:05:29,329
Google acaba de lanzar
su modelo de IA más nuevo.
1505
01:05:29,363 --> 01:05:31,699
La respuesta al ChatGPT de OpenAI.
1506
01:05:31,733 --> 01:05:33,434
¿Cómo llegamos a
¿Estos diez billones?
1507
01:05:33,467 --> 01:05:35,502
¿NVIDIA se está convirtiendo en la más
empresa valiosa en los EE.UU.?
1508
01:05:35,537 --> 01:05:39,574
Este es el negocio más grande.
oportunidad en la historia.
1509
01:05:39,607 --> 01:05:41,074
En la historia.
1510
01:05:41,108 --> 01:05:42,710
Entonces, la razón por la cual
todo el mundo está muy entusiasmado
1511
01:05:42,744 --> 01:05:45,179
sobre inteligencia artificial
ahora mismo
1512
01:05:45,212 --> 01:05:48,415
es porque
cuanto más exageran estas empresas
1513
01:05:48,449 --> 01:05:50,417
las capacidades potenciales
de su tecnología,
1514
01:05:50,451 --> 01:05:53,555
cuanta más inversión
pueden atraer.
1515
01:05:53,588 --> 01:05:55,222
CARL QUINTANILLA:
Amazon invierte hasta
1516
01:05:55,255 --> 01:05:57,592
cuatro mil millones de dolares
en la startup Anthropic.
1517
01:05:57,625 --> 01:05:59,193
OpenAI está poniendo sus miras
1518
01:05:59,226 --> 01:06:01,428
en una mitad de gran éxito
una valoración de un billón de dólares.
1519
01:06:01,462 --> 01:06:02,597
¡Medio billón!
1520
01:06:02,630 --> 01:06:03,731
La carrera ha comenzado.
1521
01:06:03,765 --> 01:06:05,165
esto esta sucediendo
más rápido que nunca.
1522
01:06:05,199 --> 01:06:07,167
¿Estamos en una burbuja de IA?
Por supuesto.
1523
01:06:07,201 --> 01:06:09,537
simplemente no veo
la burbuja estallando
1524
01:06:09,571 --> 01:06:12,707
mientras todavía tienes
este importante ciclo de gasto.
1525
01:06:12,740 --> 01:06:15,409
RASKIN: Incluso si piensas
Todo esto es exageración.
1526
01:06:15,442 --> 01:06:18,145
hay miles de millones
a billones de dólares
1527
01:06:18,178 --> 01:06:21,482
fluyendo hacia la fabricación de sistemas de IA
más poderoso.
1528
01:06:21,516 --> 01:06:24,351
Y una vez que tengas esa cosa
eso es más poderoso,
1529
01:06:24,384 --> 01:06:25,753
las empresas pueden utilizarlo
1530
01:06:25,787 --> 01:06:27,755
para obtener mayores ganancias
y ganar más dinero.
1531
01:06:27,789 --> 01:06:30,491
Los países pueden utilizarlo
para hacer ejércitos más fuertes.
1532
01:06:30,525 --> 01:06:33,293
NVIDIA ha superado
Microsoft y Apple
1533
01:06:33,327 --> 01:06:36,564
para convertirse en el mundo
empresa más valiosa.
1534
01:06:36,598 --> 01:06:39,399
La carrera por el despliegue se vuelve
la carrera hacia la imprudencia,
1535
01:06:39,433 --> 01:06:42,302
porque no pueden
implementarlo tan rápido
1536
01:06:42,336 --> 01:06:43,538
y también hacerlo bien.
1537
01:06:43,571 --> 01:06:46,440
Ellos creen que
ellos son los buenos.
1538
01:06:46,473 --> 01:06:49,611
"Y si no lo hago,
alguien que no tiene
1539
01:06:49,644 --> 01:06:51,779
"tan buenos valores como yo
Estará sentado en la mesa.
1540
01:06:51,813 --> 01:06:55,082
llegar a tomar decisiones, así que
Tengo la obligación de hacerlo".
1541
01:06:55,115 --> 01:06:56,551
Si, esto es
una creencia muy común.
1542
01:06:56,584 --> 01:06:59,152
Muchos, muchos, muchos,
tal vez la mayoría de la gente
1543
01:06:59,186 --> 01:07:01,255
construyendo esta tecnología
cree eso.
1544
01:07:01,288 --> 01:07:04,258
estoy preocupado por
la competencia comercial,
1545
01:07:04,291 --> 01:07:06,393
pero resulta
Estoy aún más preocupado por
1546
01:07:06,426 --> 01:07:08,428
La competencia geopolítica.
1547
01:07:08,462 --> 01:07:10,665
Estábamos ocho años atrás
hace un año.
1548
01:07:10,698 --> 01:07:12,800
Ahora probablemente estemos
menos de un año de retraso.
1549
01:07:12,834 --> 01:07:16,236
Bueno, tanto Arabia Saudita
y los Emiratos Árabes Unidos han estado compitiendo
1550
01:07:16,270 --> 01:07:18,673
para configurar centros de datos
y posicionarse
1551
01:07:18,706 --> 01:07:20,675
como fuerza dominante en la IA...
1552
01:07:20,708 --> 01:07:22,710
...para hacer Corea del Sur
un líder mundial en IA.
1553
01:07:22,744 --> 01:07:24,411
JULIA SIEGER:
El presidente francés, Emmanuel Macron.
1554
01:07:24,444 --> 01:07:26,380
habló mucho sobre
inteligencia artificial...
1555
01:07:26,413 --> 01:07:27,715
Ahora con más información sobre el papel de Israel
1556
01:07:27,749 --> 01:07:29,817
en la inteligencia artificial
revolución...
1557
01:07:29,851 --> 01:07:33,487
Los países competirán
para cuyas tecnologías de IA
1558
01:07:33,521 --> 01:07:35,355
crear la próxima generación
de la industria.
1559
01:07:35,389 --> 01:07:38,626
Los chinos insisten
esa IA,
1560
01:07:38,660 --> 01:07:40,360
como se está desarrollando en China,
1561
01:07:40,394 --> 01:07:42,095
reforzar los valores fundamentales
1562
01:07:42,129 --> 01:07:44,431
del Partido Comunista Chino
y el sistema chino.
1563
01:07:44,464 --> 01:07:49,269
Estados Unidos tiene que vencer a China.
en la carrera de la IA.
1564
01:07:49,303 --> 01:07:51,639
DANIEL: China, como,
años luz detrás.
1565
01:07:51,673 --> 01:07:53,240
¿Lo son?
1566
01:07:53,273 --> 01:07:55,442
Quiero decir, tienen mucho más
datos de entrenamiento que nosotros,
1567
01:07:55,475 --> 01:07:58,312
y no hay nada que diga que ellos
no dejes caer un modelo el próximo mes
1568
01:07:58,345 --> 01:08:01,415
eso no es--
no supera con creces a GPT-4.
1569
01:08:01,448 --> 01:08:04,318
Todo iba bien.
¿Qué podría salir mal?
1570
01:08:04,351 --> 01:08:07,254
-DeepSeek... (hablando chino)
-Búsqueda profunda... -Búsqueda profunda...
1571
01:08:07,287 --> 01:08:08,455
Hay un nuevo modelo.
1572
01:08:08,488 --> 01:08:11,325
Pero de un laboratorio chino
llamado DeepSeek.
1573
01:08:11,358 --> 01:08:14,428
Hablemos de DeepSeek,
porque es alucinante,
1574
01:08:14,461 --> 01:08:18,231
y esta sacudiendo esto
toda la industria hasta su núcleo.
1575
01:08:18,265 --> 01:08:19,701
La administración Trump
asegurará
1576
01:08:19,734 --> 01:08:23,470
que el mas poderoso
Los sistemas de IA se construyen en EE. UU.
1577
01:08:23,503 --> 01:08:27,174
con diseño americano
y chips fabricados.
1578
01:08:27,207 --> 01:08:29,343
La IA es de China
Proyecto Apolo.
1579
01:08:29,376 --> 01:08:30,745
El Partido Comunista Chino
1580
01:08:30,778 --> 01:08:32,179
comprende profundamente el potencial
1581
01:08:32,212 --> 01:08:33,380
para que la IA interrumpa la guerra.
1582
01:08:33,413 --> 01:08:35,650
Google ya no promete
que no lo hará
1583
01:08:35,683 --> 01:08:38,886
utilizar inteligencia artificial
para armas o vigilancia.
1584
01:08:38,920 --> 01:08:40,487
China, Corea del Norte, Rusia
1585
01:08:40,521 --> 01:08:42,222
vamos a seguir construyéndolo
lo más rápido posible
1586
01:08:42,255 --> 01:08:44,792
para obtener más ventajas económicas,
mayor ventaja de productividad
1587
01:08:44,826 --> 01:08:47,361
mayor ventaja científica
más ventaja militar,
1588
01:08:47,394 --> 01:08:48,896
porque la IA fabrica mejores armas.
1589
01:08:48,930 --> 01:08:52,299
Si estás hablando de
un sistema tan amplio y capaz
1590
01:08:52,332 --> 01:08:53,635
como un científico brillante,
1591
01:08:53,668 --> 01:08:58,271
podría ser capaz de ejecutar
una campaña militar
1592
01:08:58,305 --> 01:09:01,743
mejor que cualquiera de los generales
en el gobierno de Estados Unidos en este momento.
1593
01:09:01,776 --> 01:09:06,213
Taiwán es el problema que crea
la mayor tensión en este momento
1594
01:09:06,246 --> 01:09:08,382
entre Beijing y Estados Unidos.
1595
01:09:08,415 --> 01:09:10,918
Hay un directo
desacuerdo oposicional
1596
01:09:10,952 --> 01:09:12,452
entre EE.UU. y China
1597
01:09:12,486 --> 01:09:14,454
sobre si Taiwán
parte de China.
1598
01:09:14,488 --> 01:09:18,926
MATHENY: Taiwán es importante
por muchas razones.
1599
01:09:18,960 --> 01:09:20,828
También es el hogar de
1600
01:09:20,862 --> 01:09:24,565
alrededor del 90% del chip avanzado
fabricación para el mundo,
1601
01:09:24,599 --> 01:09:28,903
lo que significa que el suministro
cadena para computación avanzada
1602
01:09:28,936 --> 01:09:31,506
está en riesgo si lo hubiera
1603
01:09:31,539 --> 01:09:33,440
algún tipo de escenario
alrededor de Taiwán,
1604
01:09:33,473 --> 01:09:37,712
si hay un bloqueo
o una invasión de China.
1605
01:09:38,311 --> 01:09:40,948
HENDRYCKS:
¿Vamos a estar en alguna carrera?
1606
01:09:40,982 --> 01:09:45,853
entre estados unidos y china
que eventualmente se convierte en
1607
01:09:45,887 --> 01:09:49,891
una carrera armamentista militarizada de IA y
ya sabes, potencialmente clientes potenciales
1608
01:09:49,924 --> 01:09:51,659
¿A algún conflicto entre grandes potencias?
1609
01:09:51,693 --> 01:09:53,493
NICK SCHIFRIN: El extrovertido
alto comandante militar de EE.UU.
1610
01:09:53,528 --> 01:09:56,396
en la región
Se predijo que se avecinaba la guerra.
1611
01:09:56,430 --> 01:09:58,432
Creo que la amenaza es manifiesta.
durante esta década,
1612
01:09:58,465 --> 01:09:59,967
de hecho, en los próximos seis años.
1613
01:10:00,001 --> 01:10:01,769
MATENIA:
Um, uno de los escenarios
1614
01:10:01,803 --> 01:10:06,406
lo que me preocupa es
una guerra cibernética,
1615
01:10:06,440 --> 01:10:11,445
um, uno en el que
herramientas cibernéticas que son autónomas
1616
01:10:11,478 --> 01:10:13,447
están compitiendo entre sí
1617
01:10:13,480 --> 01:10:15,248
en formas que son escalantes
1618
01:10:15,282 --> 01:10:17,317
sin
control humano significativo.
1619
01:10:19,386 --> 01:10:20,755
HARARI:
Vives en una zona de guerra,
1620
01:10:20,788 --> 01:10:24,357
será una IA la que decida
si bombardear tu casa
1621
01:10:24,391 --> 01:10:26,326
y si matarte.
1622
01:10:26,359 --> 01:10:27,995
Dejemos que la máquina decida.
1623
01:10:28,029 --> 01:10:29,731
Esa es la tentación.
1624
01:10:29,764 --> 01:10:32,867
Por eso la IA es tan tentadora
para que los militares lo adopten,
1625
01:10:32,900 --> 01:10:36,003
para crear armas autónomas,
porque si empiezo a creer
1626
01:10:36,037 --> 01:10:39,607
que mi adversario militar
adoptará la IA
1627
01:10:39,640 --> 01:10:42,375
será una carrera por quién puede
aprieta el gatillo más rápido.
1628
01:10:42,409 --> 01:10:45,445
Y el que automatiza
esa decisión,
1629
01:10:45,479 --> 01:10:47,615
en lugar de tener
un humano en el circuito,
1630
01:10:47,648 --> 01:10:49,817
es el indicado
que ganará esa guerra.
1631
01:10:49,851 --> 01:10:51,284
Y si piensas en
1632
01:10:51,318 --> 01:10:53,755
la carrera armamentista nuclear
en los años 1940...
1633
01:10:54,689 --> 01:10:56,891
...ya conoces a los alemanes
están trabajando en la bomba,
1634
01:10:56,924 --> 01:11:01,361
entonces no es tan fácil decirlo
Robert Oppenheimer entonces,
1635
01:11:01,394 --> 01:11:04,031
"Uh, ya sabes, más despacio."
1636
01:11:04,065 --> 01:11:05,900
Entonces, después de ver esta película,
va a ser confuso,
1637
01:11:05,933 --> 01:11:07,300
porque vas a volver,
1638
01:11:07,334 --> 01:11:08,736
y mañana
vas a usar ChatGPT,
1639
01:11:08,770 --> 01:11:10,772
y va a ser
increíblemente útil.
1640
01:11:10,805 --> 01:11:12,974
Y lo usaré también, y
Será increíblemente útil.
1641
01:11:13,007 --> 01:11:16,611
Y dirás: "Espera, entonces
Acabo de ver esta película sobre IA.
1642
01:11:16,644 --> 01:11:18,513
"y riesgo existencial
y todas estas cosas,
1643
01:11:18,546 --> 01:11:20,915
¿Y dónde está la amenaza otra vez?"
1644
01:11:20,948 --> 01:11:24,986
Y no es que ChatGPT sea
La amenaza existencial.
1645
01:11:25,019 --> 01:11:29,322
Es que la carrera por desplegar
el más poderoso,
1646
01:11:29,356 --> 01:11:32,093
inescrutable,
tecnología incontrolable,
1647
01:11:32,126 --> 01:11:35,630
bajo lo peor
incentivos posibles,
1648
01:11:35,663 --> 01:11:37,732
esa es la amenaza existencial.
1649
01:11:38,398 --> 01:11:40,935
DANIEL:
Pero me llama la atención que-que
1650
01:11:40,968 --> 01:11:43,671
Estamos en un contexto de carrera.
1651
01:11:43,704 --> 01:11:46,473
-SUTSKEVER: Sí.
-Y es en un competitivo,
1652
01:11:46,507 --> 01:11:48,109
"Tengo que llegar allí primero,
"Tienes que ganar la carrera",
1653
01:11:48,142 --> 01:11:49,544
"Tengo que competir contra China,
1654
01:11:49,577 --> 01:11:50,945
tengo que competir contra
los otros laboratorios."
1655
01:11:50,978 --> 01:11:52,412
¿No es así?
1656
01:11:52,445 --> 01:11:54,115
Hoy es el caso.
1657
01:11:54,148 --> 01:11:57,552
Entonces necesitamos cambiar
esa dinámica de carrera.
1658
01:11:58,519 --> 01:12:00,487
¿No crees?
1659
01:12:00,521 --> 01:12:02,857
creo que eso seria
muy bueno por cierto.
1660
01:12:04,158 --> 01:12:06,928
Yo-yo creo
hay una especie de...
1661
01:12:06,961 --> 01:12:10,064
misticismo en torno a la IA
eso lo hace sentir como
1662
01:12:10,097 --> 01:12:11,999
cayó del cielo.
1663
01:12:12,033 --> 01:12:14,001
DANIEL: Pensando en esto
como una tecnología divina
1664
01:12:14,035 --> 01:12:15,970
es un problema.
1665
01:12:16,003 --> 01:12:17,672
Sí.
1666
01:12:18,773 --> 01:12:20,473
¿Por qué?
1667
01:12:20,508 --> 01:12:23,544
da licencia
a las empresas para...
1668
01:12:23,578 --> 01:12:26,714
(risas)
no asumir la responsabilidad
1669
01:12:26,747 --> 01:12:31,418
por las cosas que el software
que construyeron sí.
1670
01:12:31,451 --> 01:12:35,590
Si la gente hiciera esa conexión,
1671
01:12:35,623 --> 01:12:37,859
tal vez eso sería, como,
ayúdalos a entender de nuevo
1672
01:12:37,892 --> 01:12:42,462
la dinámica de
todo el dinero y el poder y...
1673
01:12:42,495 --> 01:12:45,933
caos que le esta pasando...
1674
01:12:45,967 --> 01:12:47,602
crear esta tecnología.
1675
01:12:47,635 --> 01:12:49,737
Son como cinco chicos.
¿Quién lo controla, verdad?
1676
01:12:49,770 --> 01:12:52,139
- ¿Como cinco hombres?
-Básicamente, sí.
1677
01:12:52,173 --> 01:12:54,642
-¿Los directores generales?
-Sí.
1678
01:12:54,675 --> 01:12:55,977
Bueno.
1679
01:12:57,178 --> 01:12:59,580
♪ ♪
1680
01:13:01,616 --> 01:13:03,618
DANIEL:
A veces se siente como
1681
01:13:03,651 --> 01:13:07,755
He estado en esto
simplemente, como un viaje sin fin
1682
01:13:07,788 --> 01:13:09,757
de tratar de entender esto.
1683
01:13:09,790 --> 01:13:12,994
Ya sabes, como
Estoy escalando una montaña...
1684
01:13:15,930 --> 01:13:19,634
...y cada vez
Yo, como, subo una colina,
1685
01:13:19,667 --> 01:13:21,035
Creo que he llegado a la cima,
1686
01:13:21,068 --> 01:13:24,005
pero sigue adelante
y yendo y yendo.
1687
01:13:24,038 --> 01:13:25,072
(Clics de la cámara, zumbidos)
1688
01:13:25,106 --> 01:13:27,174
Pero por todo lo que he oído,
1689
01:13:27,208 --> 01:13:30,778
si tuviera que adivinar qué es
en la cima de la Montaña de la Ansiedad,
1690
01:13:30,811 --> 01:13:34,682
son estos cinco directores ejecutivos
de estas cinco empresas,
1691
01:13:34,715 --> 01:13:37,952
que son algo así como los
Oppenheimers de este momento.
1692
01:13:37,985 --> 01:13:40,054
estos son los chicos
quienes están construyendo esto.
1693
01:13:40,087 --> 01:13:41,454
Sí.
1694
01:13:41,488 --> 01:13:44,659
¿Hay algún plan?
1695
01:13:44,692 --> 01:13:46,827
El jefe de la empresa.
eso hace ChatGPT
1696
01:13:46,861 --> 01:13:50,531
advertido de posible
daño significativo al mundo.
1697
01:13:50,564 --> 01:13:53,000
Creo que si esta tecnología
sale mal,
1698
01:13:53,034 --> 01:13:54,068
puede salir bastante mal.
1699
01:13:54,101 --> 01:13:56,237
(Estallidos de charla distinta)
1700
01:13:56,270 --> 01:13:58,072
DANIEL:
Cinco tipos.
1701
01:13:58,105 --> 01:14:01,943
N-nunca pensé en nosotros
como empresa de redes sociales.
1702
01:14:01,976 --> 01:14:06,814
Se siente como si tuviera que intentarlo.
y encontrar a estos tipos...
1703
01:14:06,847 --> 01:14:07,515
Mmmm.
1704
01:14:07,548 --> 01:14:09,784
...y ponerlos en la película.
1705
01:14:10,584 --> 01:14:13,554
Ciertamente obtendríamos
algo de claridad a partir de eso.
1706
01:14:14,188 --> 01:14:15,723
(Clics de la cámara, zumbidos)
1707
01:14:16,590 --> 01:14:19,860
Quiero decir, la responsabilidad tiene que parar
en algún lugar, ¿verdad?
1708
01:14:19,894 --> 01:14:21,862
(silbido del viento)
1709
01:14:21,896 --> 01:14:23,731
♪ ♪
1710
01:14:24,398 --> 01:14:26,734
(herramientas zumbando y haciendo clic)
1711
01:14:27,668 --> 01:14:29,870
(silbido)
1712
01:14:34,608 --> 01:14:35,810
DANIEL:
¿Cómo se siente eso?
1713
01:14:35,843 --> 01:14:38,212
-Excelente.
-¿Está bien?
1714
01:14:38,245 --> 01:14:39,847
-Sí.
-(charla confusa de la tripulación)
1715
01:14:39,880 --> 01:14:41,582
-¿Puedo adelantar el asiento?
-DANIEL: Sí, puedes.
1716
01:14:41,615 --> 01:14:42,717
Es, eh, es solo
un poco incómodo.
1717
01:14:42,750 --> 01:14:43,985
Estoy un poco como...
1718
01:14:44,018 --> 01:14:45,619
Darío, ¿cómo te sientes?
sobre esa silla?
1719
01:14:45,653 --> 01:14:47,588
Um, sí, la silla está bien.
1720
01:14:47,621 --> 01:14:49,290
-Solo quería moverlo
un poco adelante. -Bueno.
1721
01:14:49,323 --> 01:14:51,125
Elegí esa silla.
1722
01:14:51,158 --> 01:14:52,727
-Es una buena silla.
-Gracias.
1723
01:14:52,760 --> 01:14:54,562
(suena el celular)
1724
01:14:58,332 --> 01:15:00,500
TED:
Y siéntate ahí.
1725
01:15:02,036 --> 01:15:03,104
Y luego por aquí,
1726
01:15:03,137 --> 01:15:05,006
estaremos mirándonos
a través de este cristal.
1727
01:15:05,039 --> 01:15:07,074
(señal de ocupado pitando)
1728
01:15:11,879 --> 01:15:13,948
Y reclinándose en la silla,
inclinado hacia adelante?
1729
01:15:13,981 --> 01:15:15,683
-DANIEL: Sí. Bueno, lo que sea
cómodo, creo. -Bueno.
1730
01:15:15,716 --> 01:15:17,018
Es algo genial.
Hay un montón de espejos.
1731
01:15:17,051 --> 01:15:18,285
-Eso está... bien.
-MUJER: Sam A., toma uno. Marca.
1732
01:15:18,319 --> 01:15:19,920
-¿Cómo es eso?
-Bien. Gracias.
1733
01:15:19,954 --> 01:15:21,622
DANIEL: La génesis
de este proyecto es que yo estaba
1734
01:15:21,655 --> 01:15:23,290
sentado en casa,
y yo estaba jugando con,
1735
01:15:23,324 --> 01:15:24,859
Creo que tu generador de imágenes,
1736
01:15:24,892 --> 01:15:27,762
y yo estaba simultáneamente,
eh, aterrorizado
1737
01:15:27,795 --> 01:15:29,897
-y realmente impresionado.
-(se ríe suavemente)
1738
01:15:29,930 --> 01:15:32,333
-Esa es la combinación habitual.
-Y luego corte a
1739
01:15:32,366 --> 01:15:35,002
mi esposa y yo nos enteramos
estamos esperando.
1740
01:15:35,036 --> 01:15:38,773
Y estoy como teniendo
una crisis existencial
1741
01:15:38,806 --> 01:15:40,775
como es mi esposa
seis meses de embarazo.
1742
01:15:40,808 --> 01:15:43,577
Y creo que mi primera pregunta,
que les pregunto a todos:
1743
01:15:43,611 --> 01:15:46,080
Ahora es un momento terrible
tener un hijo?
1744
01:15:46,113 --> 01:15:47,848
¿Estoy cometiendo un gran error?
1745
01:15:47,882 --> 01:15:49,650
estoy esperando un niño
en marzo también. Mi primero.
1746
01:15:49,683 --> 01:15:50,918
-¿Estás esperando un niño?
-Sí.
1747
01:15:50,951 --> 01:15:52,319
-¿Esperas en marzo?
-Primer niño.
1748
01:15:52,353 --> 01:15:53,788
-Mazel tov.
-Muchas gracias.
1749
01:15:53,821 --> 01:15:54,922
nunca he estado tan emocionado
para cualquier cosa.
1750
01:15:54,955 --> 01:15:57,091
-Así me siento.
-Sí.
1751
01:15:57,124 --> 01:15:58,759
¿Pero no tienes miedo?
1752
01:15:58,793 --> 01:16:03,064
Quiero decir, tener un hijo es
solo esta cosa trascendental
1753
01:16:03,097 --> 01:16:05,633
que yo, ya sabes,
Me quedo despierto todas las noches, como,
1754
01:16:05,666 --> 01:16:07,334
leyendo estos libros sobre
cómo criar a un niño,
1755
01:16:07,368 --> 01:16:08,769
y espero
Voy a hacer un buen trabajo,
1756
01:16:08,803 --> 01:16:09,804
y se siente
muy abrumador y--
1757
01:16:09,837 --> 01:16:12,673
pero no tengo miedo...
1758
01:16:12,706 --> 01:16:14,675
para que los niños crezcan
en un mundo con IA.
1759
01:16:14,708 --> 01:16:16,811
Eso... eso estará bien.
1760
01:16:16,844 --> 01:16:19,280
eso es bueno escucharlo
viniendo del chico.
1761
01:16:19,313 --> 01:16:21,082
Creo que es una idea maravillosa
tener hijos.
1762
01:16:21,115 --> 01:16:23,784
Yo-yo creo que son los más
cosa mágica, increíble.
1763
01:16:23,818 --> 01:16:25,820
-(suspira profundamente)
-Hay tanta incertidumbre,
1764
01:16:25,853 --> 01:16:27,188
casi lo haría
lo que vas a hacer de todos modos.
1765
01:16:27,221 --> 01:16:29,223
se que eso no es
una respuesta muy satisfactoria,
1766
01:16:29,256 --> 01:16:32,359
pero es el unico
Se me ocurre.
1767
01:16:32,393 --> 01:16:34,929
Nuestros hijos nunca van a...
1768
01:16:34,962 --> 01:16:37,331
conocer un mundo que no tiene
IA realmente avanzada.
1769
01:16:37,364 --> 01:16:40,167
De hecho, nuestros hijos nunca
Ser más inteligente que una IA.
1770
01:16:40,201 --> 01:16:42,703
DANIEL: "Nuestros hijos
¿Nunca serás más inteligente que una IA"?
1771
01:16:42,736 --> 01:16:44,839
Bueno, desde un punto crudo,
desde una perspectiva de coeficiente intelectual bruto,
1772
01:16:44,872 --> 01:16:46,807
nunca lo serán
Más inteligente que una IA.
1773
01:16:46,841 --> 01:16:48,309
Esa noción no
¿te inquieta un poco?
1774
01:16:48,342 --> 01:16:51,712
Porque me hace sentir
un poco mareado de una manera extraña.
1775
01:16:51,745 --> 01:16:55,316
Um, me inquieta
un poquito.
1776
01:16:55,349 --> 01:16:56,817
Pero es la realidad.
1777
01:16:56,851 --> 01:16:58,819
DANIEL:
Bien, entonces la dinámica de carrera.
1778
01:16:58,853 --> 01:17:01,655
Tenemos un montón de gente
quienes están todos de acuerdo
1779
01:17:01,689 --> 01:17:03,190
que esto da miedo.
1780
01:17:03,224 --> 01:17:05,126
Basado en los cronogramas que
mucha gente me ha dado,
1781
01:17:05,159 --> 01:17:07,661
tenemos entre dos meses y
cinco años para resolver esto.
1782
01:17:07,695 --> 01:17:09,063
-Sí.
-Y-y, supongo,
1783
01:17:09,096 --> 01:17:13,767
mi mayor pregunta es:
¿Por qué no podemos simplemente parar?
1784
01:17:14,768 --> 01:17:19,340
El problema con, uh, uh,
"simplemente parar" es que, um,
1785
01:17:19,373 --> 01:17:22,776
hay muchos, muchos grupos ahora
alrededor del mundo, uh, uh,
1786
01:17:22,810 --> 01:17:26,113
construyendo esto, por
muchas naciones, muchas empresas,
1787
01:17:26,147 --> 01:17:28,749
mmm, todo con
diferentes motivaciones.
1788
01:17:28,782 --> 01:17:31,152
Hay algunos de
estas empresas en este espacio
1789
01:17:31,185 --> 01:17:34,455
cuál es su posición: "Queremos
para desarrollar esta tecnología
1790
01:17:34,488 --> 01:17:36,323
absolutamente lo más rápido posible."
1791
01:17:36,357 --> 01:17:40,694
E incluso si pudiéramos aprobar leyes
en Estados Unidos y Europa,
1792
01:17:40,728 --> 01:17:42,897
tenemos que convencer...
1793
01:17:42,930 --> 01:17:45,266
Xi Jinping y Vladímir Putin
o, ya sabes,
1794
01:17:45,299 --> 01:17:47,968
cualquiera que sea su científico
Los asesores están de su lado.
1795
01:17:48,002 --> 01:17:49,837
Eso va a ser muy difícil.
1796
01:17:49,870 --> 01:17:51,238
creo que es verdad
1797
01:17:51,272 --> 01:17:54,041
que si dos personas son
exactamente en el mismo lugar,
1798
01:17:54,074 --> 01:17:56,410
uh, el que está dispuesto a tomar
más atajos en seguridad
1799
01:17:56,443 --> 01:17:58,746
debería algo así
"Llega primero."
1800
01:17:58,779 --> 01:18:01,715
Eh, pero...
1801
01:18:01,749 --> 01:18:03,284
podemos usar nuestra ventaja
1802
01:18:03,317 --> 01:18:06,720
pasar mucho más tiempo
haciendo pruebas de seguridad.
1803
01:18:06,754 --> 01:18:08,455
DANIEL:
¿Y qué pasa si lo pierdes?
1804
01:18:08,489 --> 01:18:10,057
Recibes la llamada
y lo descubres
1805
01:18:10,090 --> 01:18:12,092
que estás ahora, digamos,
seis meses de retraso.
1806
01:18:12,126 --> 01:18:14,828
-¿Q-Qué pasa entonces?
-Depende de quién estamos detrás.
1807
01:18:14,862 --> 01:18:17,364
Si es como,
un gobierno adversario,
1808
01:18:17,398 --> 01:18:19,200
Probablemente eso sea realmente malo.
1809
01:18:19,233 --> 01:18:21,902
Entonces digamos que recibes la llamada
que China tiene una,
1810
01:18:21,936 --> 01:18:25,172
tiene un recursivamente
agente de superación personal
1811
01:18:25,206 --> 01:18:27,808
o algo asi que nosotros
debería estar realmente preocupado.
1812
01:18:27,841 --> 01:18:30,010
¿Qué... qué-qué pasa?
1813
01:18:31,478 --> 01:18:33,113
Eh...
1814
01:18:35,950 --> 01:18:37,484
Ese caso requeriría...
1815
01:18:37,519 --> 01:18:41,088
el primer paso sería
para hablar con el gobierno de Estados Unidos.
1816
01:18:41,121 --> 01:18:43,457
Sam, ¿confías en el
la capacidad del gobierno para manejar
1817
01:18:43,490 --> 01:18:45,292
algo como esto?
1818
01:18:46,427 --> 01:18:48,162
Sí, de hecho lo hago.
1819
01:18:48,195 --> 01:18:50,030
Hay otras cosas que no hago
confiar en el gobierno para manejar,
1820
01:18:50,064 --> 01:18:51,832
pero ese escenario particular,
Creo que lo sabrían...
1821
01:18:51,865 --> 01:18:53,167
ellos-ellos-- sí.
1822
01:18:53,200 --> 01:18:54,969
DANIEL: Cuando lo hayas hecho,
como, discusiones privadas
1823
01:18:55,002 --> 01:18:56,937
con los otros chicos cuyo
los dedos están en el gatillo,
1824
01:18:56,971 --> 01:19:00,241
por así decirlo, um,
hacer esas discusiones privadas
1825
01:19:00,274 --> 01:19:01,875
llenarte de confianza
1826
01:19:01,909 --> 01:19:03,545
o te hacen,
eh, ¿más ansioso?
1827
01:19:03,578 --> 01:19:07,414
Mira, quiero decir, conozco algunos
de ellos mejor que otros.
1828
01:19:07,448 --> 01:19:10,417
Um, tengo más confianza
en algunos de ellos th-que tengo
1829
01:19:10,451 --> 01:19:12,920
en otros, ya sabes,
como con cualquier pueblo.
1830
01:19:12,953 --> 01:19:14,388
Ya sabes,
piensas en, ya sabes,
1831
01:19:14,421 --> 01:19:16,223
los niños de tu escuela secundaria
clase o algo así, ¿verdad?
1832
01:19:16,257 --> 01:19:18,526
Ya sabes, algunos de ellos son,
ya sabes, muy dulce.
1833
01:19:18,560 --> 01:19:20,961
Algunos de ellos tienen buenas intenciones.
pero no tan efectivo.
1834
01:19:20,995 --> 01:19:22,930
Algunos de ellos son,
ya sabes, matones.
1835
01:19:22,963 --> 01:19:24,198
Algunos de ellos son
gente realmente mala.
1836
01:19:24,231 --> 01:19:26,300
(tartamudea)
Tú-tú realmente,
1837
01:19:26,333 --> 01:19:27,535
realmente ves la propagación.
1838
01:19:27,569 --> 01:19:29,236
Ya sabes, ¿soy yo? ¿Soy yo?
¿Estoy seguro?
1839
01:19:29,270 --> 01:19:31,071
que todos van a hacer
lo correcto,
1840
01:19:31,105 --> 01:19:32,540
¿Que todo va a salir bien?
1841
01:19:32,574 --> 01:19:34,241
Um, no, no lo soy.
1842
01:19:34,275 --> 01:19:36,010
Y no hay nada
Puedo hacer eso, ¿verdad?
1843
01:19:36,043 --> 01:19:38,379
Ya sabes, todo lo que puedo hacer
es-es empujar por el,
1844
01:19:38,412 --> 01:19:39,813
presionar por, ya sabes,
1845
01:19:39,847 --> 01:19:41,181
presionar para el gobierno
para involucrarse.
1846
01:19:41,215 --> 01:19:43,150
Pero al final solo soy
una persona allí también.
1847
01:19:43,183 --> 01:19:44,586
Eso es--
Depende de todos nosotros.
1848
01:19:44,619 --> 01:19:46,353
para presionar al gobierno
para involucrarse.
1849
01:19:46,387 --> 01:19:49,023
Esa es la cosa número uno
eso creo que tenemos que hacer
1850
01:19:49,056 --> 01:19:51,292
to-to, ya sabes, para arreglar las cosas
en la dirección correcta.
1851
01:19:51,325 --> 01:19:53,160
lo que me pone ansioso
sobre eso es, como,
1852
01:19:53,193 --> 01:19:56,463
la realidad básica de que
velocidad a la que la tecnología
1853
01:19:56,497 --> 01:19:58,966
está proliferando y creciendo
es exponencial,
1854
01:19:58,999 --> 01:20:02,002
y los mecanismos para legislar
tienen 300 años,
1855
01:20:02,036 --> 01:20:03,304
-Tarda una eternidad.
-Sí.
1856
01:20:03,337 --> 01:20:05,573
Um, creo que
Va a ser un trabajo pesado.
1857
01:20:05,607 --> 01:20:07,274
Definitivamente estoy de acuerdo
contigo en eso.
1858
01:20:07,308 --> 01:20:09,276
DANIEL: Ya sabes,
lo que literalmente estoy buscando
1859
01:20:09,310 --> 01:20:11,513
es-es como,
"Aquí hay pasos que, como,
1860
01:20:11,546 --> 01:20:15,449
"Los jefes van a
tome para centrarse en la seguridad,
1861
01:20:15,482 --> 01:20:18,586
para mitigar el peligro
y maximizar la promesa."
1862
01:20:18,620 --> 01:20:20,588
Y yo no,
No lo sé, no lo sé.
1863
01:20:20,622 --> 01:20:22,423
que hay
una respuesta simple a eso.
1864
01:20:22,456 --> 01:20:24,091
Eh...
1865
01:20:26,360 --> 01:20:28,262
Quiero decir, esto tal vez sea
demasiado simple,
1866
01:20:28,295 --> 01:20:30,632
pero tu...
1867
01:20:30,665 --> 01:20:32,333
crear un nuevo modelo,
1868
01:20:32,366 --> 01:20:35,202
lo estudias y lo pruebas
con mucho cuidado.
1869
01:20:35,235 --> 01:20:37,871
lo apagas
al mundo poco a poco,
1870
01:20:37,905 --> 01:20:40,074
y luego, cada vez más,
tu entiendes
1871
01:20:40,107 --> 01:20:41,875
si eso es seguro o no,
y luego si lo es,
1872
01:20:41,909 --> 01:20:43,377
puedes dar el siguiente paso.
1873
01:20:44,445 --> 01:20:47,414
No suena tan llamativo
como un científico brillante
1874
01:20:47,448 --> 01:20:50,652
tener una idea en un
laboratorio para hacer un sistema de inteligencia artificial, como,
1875
01:20:50,685 --> 01:20:54,355
perfectamente seguro y controlable
y todo lo demás,
1876
01:20:54,388 --> 01:20:56,190
pero es lo que creo
va a pasar.
1877
01:20:56,223 --> 01:20:57,559
Como, es la manera
Creo que esto funciona.
1878
01:20:57,592 --> 01:20:59,561
Pero digamos simplemente
algo terrible sucede,
1879
01:20:59,594 --> 01:21:02,429
como un modelo se suelta
o se vuelve rebelde o algo así.
1880
01:21:02,463 --> 01:21:04,031
¿Existe un protocolo?
1881
01:21:04,064 --> 01:21:06,266
Como, literalmente,
Me estoy imaginando un teléfono rojo.
1882
01:21:06,300 --> 01:21:07,635
-Sí.
-Perdón por pensar en esto.
1883
01:21:07,669 --> 01:21:09,103
en términos de películas, pero, como...
1884
01:21:09,136 --> 01:21:10,371
Hay un protocolo.
1885
01:21:10,404 --> 01:21:12,039
-¿Hay un teléfono rojo?
en tu escritorio? -No.
1886
01:21:12,072 --> 01:21:13,508
(risas):
¿Es un secreto?
1887
01:21:13,541 --> 01:21:15,643
Quiero decir, uh, no, no lo es,
no es tan elegante o dramático
1888
01:21:15,677 --> 01:21:17,512
como tú esperarías,
pero hay, ya sabes...
1889
01:21:17,545 --> 01:21:19,279
Hemos pensado bien
estos escenarios,
1890
01:21:19,313 --> 01:21:21,081
y si esto sucede,
vamos a llamar a estas personas
1891
01:21:21,115 --> 01:21:22,349
en este orden y haz esto
1892
01:21:22,383 --> 01:21:24,017
y tipo de hacer
estas decisiones si, como--
1893
01:21:24,051 --> 01:21:26,387
yo creo que
cuando tienes una oportunidad
1894
01:21:26,420 --> 01:21:29,423
para pensar antes
sucede una situación estresante,
1895
01:21:29,456 --> 01:21:30,991
eso es casi siempre
una buena idea.
1896
01:21:31,024 --> 01:21:32,226
Y escribirlo es útil.
1897
01:21:32,259 --> 01:21:34,128
-Estar preparado es útil.
-Sí.
1898
01:21:34,962 --> 01:21:36,397
(suspira) Tú...
1899
01:21:36,430 --> 01:21:39,233
Seria imposible
para que me siente frente a ti
1900
01:21:39,266 --> 01:21:41,669
y te pido que me prometas
que esto va a salir bien?
1901
01:21:41,703 --> 01:21:43,504
Eso es imposible.
1902
01:21:44,104 --> 01:21:46,173
No hay respuestas fáciles,
desafortunadamente.
1903
01:21:46,206 --> 01:21:48,442
Uh, porque es tal
una tecnología de punta,
1904
01:21:48,475 --> 01:21:50,244
mmm, todavía hay
muchas incógnitas.
1905
01:21:50,277 --> 01:21:52,714
Y creo que
eso tiene que ser,
1906
01:21:52,747 --> 01:21:55,416
um, uh, ya sabes, entendido
1907
01:21:55,449 --> 01:21:59,554
y de ahí la necesidad
Por... algo de precaución.
1908
01:21:59,587 --> 01:22:01,288
Me despierto, ya sabes, todos los días.
1909
01:22:01,321 --> 01:22:04,024
este es el, este es el
Lo primero en lo que pienso.
1910
01:22:04,057 --> 01:22:05,459
Ahora mira, soy humano.
1911
01:22:05,492 --> 01:22:08,596
y, ya sabes, tiene-tiene
¿Cada decisión ha sido perfecta?
1912
01:22:08,630 --> 01:22:12,166
¿Puedo incluso decir mis motivaciones?
¿Siempre estuvieron perfectamente claros?
1913
01:22:12,199 --> 01:22:14,101
Por supuesto que no.
Nadie puede decir eso.
1914
01:22:14,134 --> 01:22:17,004
Como, eso es-eso es
simplemente no, como, ya sabes--
1915
01:22:17,037 --> 01:22:19,173
eso es-eso simplemente no es
cómo trabaja la gente.
1916
01:22:19,206 --> 01:22:21,408
La historia de la ciencia.
tiende a ser eso,
1917
01:22:21,442 --> 01:22:23,745
para bien o para mal,
si es posible hacer algo...
1918
01:22:23,778 --> 01:22:27,414
y ahora sabemos que la IA es posible
hacer: la humanidad lo hace.
1919
01:22:27,448 --> 01:22:30,217
todo esto
iba-iba a suceder.
1920
01:22:30,250 --> 01:22:32,587
Este-este tren
no va a parar.
1921
01:22:32,620 --> 01:22:34,722
No puedes pararte delante de
el tren y detenerlo.
1922
01:22:34,756 --> 01:22:36,724
Te aplastarán.
1923
01:22:36,758 --> 01:22:39,226
ALTMAN:
Quiero decir, es muy estresante.
1924
01:22:40,194 --> 01:22:41,462
Ya sabes, hay como,
1925
01:22:41,495 --> 01:22:43,197
muchas cosas
muchos de nosotros no lo sabemos.
1926
01:22:43,230 --> 01:22:47,000
creo que la historia
del descubrimiento científico es
1927
01:22:47,034 --> 01:22:48,736
uno de no saber
lo que no sabes
1928
01:22:48,770 --> 01:22:50,204
y averiguando sobre la marcha.
1929
01:22:50,237 --> 01:22:53,575
Uh, pero sí, es un...
1930
01:22:53,608 --> 01:22:55,976
es una forma estresante de vivir.
1931
01:22:56,811 --> 01:22:59,246
DANIEL: Correcto. Sam, gracias
Muchísimas gracias por hacer esto.
1932
01:22:59,279 --> 01:23:01,081
-Y de nuevo, mazel tov.
-Gracias. Y a ti.
1933
01:23:01,114 --> 01:23:03,383
Muchas gracias. Gracias chicos.
1934
01:23:03,417 --> 01:23:06,253
♪ ♪
1935
01:23:08,388 --> 01:23:09,990
(suspiros)
1936
01:23:11,593 --> 01:23:13,528
(electricidad crepitando)
1937
01:23:13,561 --> 01:23:16,363
-(truenos)
-(silbidos, gruñidos)
1938
01:23:43,190 --> 01:23:45,392
-(Clics de la videograbadora)
-(línea sonando)
1939
01:23:48,328 --> 01:23:49,797
-(clics de línea)
-KEVIN ROHER: Hola.
1940
01:23:49,831 --> 01:23:51,131
DANIEL:
Oye, papá, ¿cómo estás?
1941
01:23:51,164 --> 01:23:52,165
KEVIN:
Bien. ¿Cómo estás?
1942
01:23:52,199 --> 01:23:53,500
¿Estás trabajando? ¿Qué estás haciendo?
1943
01:23:53,535 --> 01:23:55,770
DANIEL:
Estoy trabajando en esta película sobre IA.
1944
01:23:55,803 --> 01:23:58,305
KEVIN:
¿Y cómo te va?
1945
01:23:58,338 --> 01:24:00,708
DANIEL:
Sabes, es... es realmente...
1946
01:24:00,742 --> 01:24:02,544
-JOANNE ROHER: Hola, cariño.
-DANIEL: Hola, mamá.
1947
01:24:02,577 --> 01:24:04,344
JOANNE: Entonces, ¿qué es?
¿la premisa de la película?
1948
01:24:04,378 --> 01:24:07,180
¿Es un documental?
Kev, no uses más especias.
1949
01:24:07,214 --> 01:24:08,816
Ya está demasiado condimentado.
1950
01:24:08,850 --> 01:24:10,718
Estamos haciendo pollo ahora mismo.
1951
01:24:10,752 --> 01:24:13,186
-¿Es un documental o qué...
-DANIEL: Se trata de--
1952
01:24:13,220 --> 01:24:14,421
la película trata sobre
el fin del mundo.
1953
01:24:14,454 --> 01:24:16,290
La venida del fin del mundo,
1954
01:24:16,323 --> 01:24:18,158
y estamos haciendo una película
sobre el fin del mundo.
1955
01:24:18,191 --> 01:24:20,327
-JOANNE: ¿En serio?
-DANIEL: Sí.
1956
01:24:20,360 --> 01:24:22,162
KEVIN: Un poco deprimente
Parece que es una película.
1957
01:24:22,195 --> 01:24:23,698
JUANA:
Sí.
1958
01:24:23,731 --> 01:24:29,436
DANIEL: Me siento mucho
Me gusta... esta ansiedad muy aguda.
1959
01:24:29,469 --> 01:24:31,673
JOANNE: Da tanto miedo
pero tiene que haber--
1960
01:24:31,706 --> 01:24:35,810
ya sabes, ¿se han estado reuniendo
algunas personas superinteligentes
1961
01:24:35,843 --> 01:24:38,312
¿Esos te están dando alguna respuesta?
1962
01:24:38,345 --> 01:24:40,113
DANIEL: Eso es
Es frustrante.
1963
01:24:40,147 --> 01:24:41,683
Nadie lo sabe.
1964
01:24:41,716 --> 01:24:44,384
JUANA:
Todo lo que puedo decir es que
1965
01:24:44,418 --> 01:24:50,190
cada generación ha tenido
algo aterrador como esto.
1966
01:24:50,223 --> 01:24:52,760
KEVIN: Cuando nací, fue
La crisis de los misiles cubanos.
1967
01:24:52,794 --> 01:24:54,596
(latido del corazón constante)
1968
01:24:54,629 --> 01:24:56,864
Simplemente tenía miedo de que hubiera
iba a haber una guerra nuclear.
1969
01:24:56,898 --> 01:24:58,298
JUANA:
Sí, pero no lo sabíamos
1970
01:24:58,332 --> 01:24:59,534
qué iban a hacer y...
1971
01:24:59,567 --> 01:25:01,168
KEVIN:
Y el mundo no se acabó.
1972
01:25:01,201 --> 01:25:02,202
Todos se despertaron
a la mañana siguiente,
1973
01:25:02,235 --> 01:25:03,871
y todavía estamos haciendo lo nuestro.
1974
01:25:03,905 --> 01:25:05,439
DANIEL:
Tengo mucho miedo
1975
01:25:05,472 --> 01:25:07,407
especialmente en
el contexto de, como,
1976
01:25:07,441 --> 01:25:09,577
-ya sabes, el bebé y...
-(latidos del corazón fetal pulsantes)
1977
01:25:09,611 --> 01:25:11,178
KEVIN:
Será una curva de aprendizaje.
1978
01:25:11,211 --> 01:25:12,479
JUANA:
Estarás bien.
1979
01:25:12,513 --> 01:25:13,681
KEVIN: No puedes
no puedes pensar en
1980
01:25:13,715 --> 01:25:14,849
Lo que no puedes controlar, Daniel.
1981
01:25:14,882 --> 01:25:16,551
Solo recuerda eso.
1982
01:25:16,584 --> 01:25:18,251
DANIEL (voz quebrada):
Estoy realmente, realmente estoy sintiendo
1983
01:25:18,285 --> 01:25:19,587
nervioso y asustado por ello.
1984
01:25:19,621 --> 01:25:21,488
Hay tanto
que no puedo controlar.
1985
01:25:21,522 --> 01:25:24,358
KEVIN: No te pongas nervioso.
No puedes dejar que eso te afecte.
1986
01:25:24,391 --> 01:25:26,794
Solo puedes controlar
lo que puedes controlar
1987
01:25:26,828 --> 01:25:28,395
y eso es todo lo que puedes hacer.
1988
01:25:28,428 --> 01:25:31,231
No puedes hacer más que eso.
1989
01:25:31,264 --> 01:25:33,433
Escribe eso en tu libro.
1990
01:25:35,870 --> 01:25:37,572
♪ ♪
1991
01:25:44,712 --> 01:25:47,447
(latidos del corazón fetal pulsantes)
1992
01:25:47,481 --> 01:25:49,651
(aullando)
1993
01:25:49,684 --> 01:25:52,219
CAROLINA:
Cuando miras hacia atrás,
1994
01:25:52,252 --> 01:25:54,922
El mundo siempre se está acabando.
1995
01:25:54,956 --> 01:25:57,357
Y cuando miras hacia adelante,
1996
01:25:57,391 --> 01:25:59,627
El mundo siempre se está acabando.
1997
01:25:59,661 --> 01:26:02,429
...en llamas.
Una casa ya está en llamas...
1998
01:26:02,462 --> 01:26:06,299
CAROLINE: Pero el mundo
También siempre está comenzando.
1999
01:26:08,402 --> 01:26:10,437
DANIEL:
¿Estás listo?
2000
01:26:10,470 --> 01:26:12,674
¿Alguna vez estás realmente listo?
2001
01:26:16,443 --> 01:26:18,278
DANIEL: Quieres conducir
¿O quieres que conduzca?
2002
01:26:18,311 --> 01:26:19,547
CAROLINA:
Tú conduces.
2003
01:26:20,815 --> 01:26:22,382
-(la mujer habla indistintamente)
-CAROLINA: Está bien.
2004
01:26:22,416 --> 01:26:24,284
DANIEL:
Gracias, María.
2005
01:26:24,317 --> 01:26:26,654
MUJER: Simplemente va a
siento realmente calambres.
2006
01:26:26,688 --> 01:26:28,355
-CAROLINE: Está bien.
-MUJER: ¿Estás lista?
2007
01:26:28,388 --> 01:26:29,691
-CAROLINE: Sí.
-(charla confusa)
2008
01:26:29,724 --> 01:26:30,958
(Caroline suspira profundamente)
2009
01:26:30,992 --> 01:26:33,326
MUJER: Podrías estar en un
drama médico con todo eso...
2010
01:26:34,595 --> 01:26:36,597
♪ ♪
2011
01:26:44,706 --> 01:26:46,607
-(crepitantes estáticos)
-(charla confusa)
2012
01:26:49,610 --> 01:26:51,746
MUJER:
...un poco de presión.
2013
01:26:53,313 --> 01:26:54,749
Simplemente relájate.
2014
01:26:57,451 --> 01:26:59,821
-(bebé llorando)
-(el dispositivo emite un pitido)
2015
01:27:02,623 --> 01:27:05,626
DANIEL:
Hola, amigo. Oh.
2016
01:27:05,660 --> 01:27:06,961
Hola, amigo.
2017
01:27:06,994 --> 01:27:09,362
♪ ♪
2018
01:27:31,652 --> 01:27:34,321
KEVIN:
Va a ser un mundo completamente nuevo
2019
01:27:34,354 --> 01:27:35,723
para ti, Daniel.
2020
01:27:37,658 --> 01:27:40,762
Y creo que lo estarás
un padre increíble.
2021
01:27:41,863 --> 01:27:44,899
JOANNE (risas):
Eso es seguro.
2022
01:27:44,932 --> 01:27:47,068
-(Kevin llorando)
-Oh.
2023
01:27:47,101 --> 01:27:49,302
(continúa llorando)
2024
01:27:49,336 --> 01:27:51,572
KEVIN:
Vas a hacer un gran trabajo.
2025
01:27:52,206 --> 01:27:53,541
JUANA:
Kev, ¿por qué lloras?
2026
01:27:53,574 --> 01:27:55,076
KEVIN:
Estoy llorando porque...
2027
01:27:55,109 --> 01:27:57,545
No lo sé. Simplemente no...
2028
01:27:57,578 --> 01:27:59,914
DANIEL: Papá, vas a
Hazme llorar también.
2029
01:27:59,947 --> 01:28:01,549
¿Por qué lloras?
2030
01:28:03,651 --> 01:28:05,853
KEVIN: Simplemente lo sé
vas a ser un padre increíble.
2031
01:28:05,887 --> 01:28:07,655
DANIEL (llorando):
Solo voy a ser un gran padre
2032
01:28:07,688 --> 01:28:09,957
porque tuve un gran padre.
2033
01:28:09,991 --> 01:28:12,894
KEVIN: Me estoy poniendo emocional
Eso es todo.
2034
01:28:12,927 --> 01:28:14,327
JUANA:
Oh.
2035
01:28:14,361 --> 01:28:15,462
(charla divertida en video)
2036
01:28:15,495 --> 01:28:17,064
(sobre vídeo):
¡Chico, oh, chico!
2037
01:28:17,098 --> 01:28:18,633
¡Dios mío!
2038
01:28:19,267 --> 01:28:21,035
Mira esos pequeños descarados.
2039
01:28:21,068 --> 01:28:25,573
Mira esos pequeños descarados.
Mira esos pequeños descarados.
2040
01:28:25,606 --> 01:28:26,741
Sí.
2041
01:28:26,774 --> 01:28:29,376
DANIEL:
Sé cómo terminar esta película.
2042
01:28:30,011 --> 01:28:31,712
Bebés.
2043
01:28:32,379 --> 01:28:35,883
-El final de la película trata sobre
bebés. -(charla sobre videos)
2044
01:28:35,917 --> 01:28:37,618
Afirman la vida.
2045
01:28:37,652 --> 01:28:39,486
Son agotadores.
2046
01:28:39,520 --> 01:28:41,421
-(bebé riendo)
-Son divertidísimos.
2047
01:28:41,454 --> 01:28:42,957
Y valen la pena.
2048
01:28:42,990 --> 01:28:46,828
Esta película no trata sobre
funcionamiento interno de una tecnología.
2049
01:28:46,861 --> 01:28:48,696
No se trata
los directores ejecutivos multimillonarios.
2050
01:28:48,729 --> 01:28:50,665
No se trata de geopolítica.
2051
01:28:50,698 --> 01:28:53,935
No se trata de lo aterrador
futuro o el fin del mundo,
2052
01:28:53,968 --> 01:28:56,137
porque mi mundo
está recién comenzando.
2053
01:28:56,170 --> 01:28:57,972
Estoy construyendo una cuna.
2054
01:28:58,005 --> 01:28:59,907
Aquí mismo, ahora mismo.
2055
01:28:59,941 --> 01:29:01,008
(bebé arrullando)
2056
01:29:01,042 --> 01:29:02,743
La IA lo cambiará todo
2057
01:29:02,777 --> 01:29:05,913
de maneras demasiado poderosas y
complejo de entender para nosotros.
2058
01:29:05,947 --> 01:29:09,717
Y el futuro no es
para que cualquiera de nosotros decida.
2059
01:29:10,818 --> 01:29:13,921
Pero lo que puedo decidir es ser
el mejor marido posible
2060
01:29:13,955 --> 01:29:17,992
para mi esposa y lo mejor
posible papá para mi hijo.
2061
01:29:18,025 --> 01:29:21,796
Entonces, si nuestro futuro de IA es
una distopía de pesadilla
2062
01:29:21,829 --> 01:29:24,098
o la utopía
con el que todos soñamos
2063
01:29:24,131 --> 01:29:27,134
Al menos lo sabré
que hice todo lo que pude
2064
01:29:27,168 --> 01:29:30,605
para guiar a mi familia
a través de esta revolución de la IA.
2065
01:29:30,638 --> 01:29:34,474
Y pase lo que pase,
Lo enfrentaremos juntos.
2066
01:29:34,508 --> 01:29:35,877
(la música edificante aumenta)
2067
01:29:35,910 --> 01:29:37,444
(la música se detiene abruptamente)
2068
01:29:37,477 --> 01:29:40,047
DANIEL:
Así que esa es sólo nuestra primera idea.
2069
01:29:40,715 --> 01:29:43,084
¿Cómo se siente esto?
¿Estás sintiendo esto?
2070
01:29:43,117 --> 01:29:45,720
Espera, yo... esto no es...
esto es una broma.
2071
01:29:45,753 --> 01:29:48,388
En realidad no es
cómo vas a terminarlo.
2072
01:29:50,591 --> 01:29:53,160
Quiero decir, es sólo una idea. ¿Bueno?
2073
01:29:53,194 --> 01:29:54,996
No, Daniel.
2074
01:29:55,029 --> 01:29:56,631
...uh, muy, muy tonto.
2075
01:29:56,664 --> 01:29:59,166
Acabas de gastar, yo no
saber, como, ¿cuántos años
2076
01:29:59,200 --> 01:30:03,104
de nuestra vida trabajando en esto,
hablando con todos los principales expertos
2077
01:30:03,137 --> 01:30:05,539
en el planeta sobre el tema,
2078
01:30:05,573 --> 01:30:08,175
y vas a terminarlo
2079
01:30:08,209 --> 01:30:11,444
con algunos como
¿tonterías de kumbayá?
2080
01:30:11,478 --> 01:30:14,048
Hay un asteroide
se dirigió a la Tierra.
2081
01:30:14,081 --> 01:30:15,917
¿A qué te dedicas? Sólo...
2082
01:30:15,950 --> 01:30:18,152
tomarse de la mano
y espero que funcione bien?
2083
01:30:18,185 --> 01:30:19,854
En absoluto.
2084
01:30:19,887 --> 01:30:22,924
Tenemos que-- ha--
tiene que ser...
2085
01:30:22,957 --> 01:30:25,026
El final tiene que...
2086
01:30:26,493 --> 01:30:28,529
CAROLINA:
Bien, lo primero:
2087
01:30:28,562 --> 01:30:32,033
La IA está aquí,
y llegó para quedarse.
2088
01:30:32,066 --> 01:30:33,534
La mierda está fuera del caballo
2089
01:30:33,567 --> 01:30:36,436
pero el caballo es
Voy a seguir cagando.
2090
01:30:38,873 --> 01:30:39,807
(multitud aclamando)
2091
01:30:39,840 --> 01:30:41,943
Ya sabes, uno de los básicos.
leyes de la historia
2092
01:30:41,976 --> 01:30:44,578
es que nada
realmente tener un comienzo
2093
01:30:44,612 --> 01:30:46,580
y nada tiene final.
2094
01:30:46,614 --> 01:30:48,049
Simplemente continúa.
2095
01:30:48,082 --> 01:30:50,918
La IA no está ni cerca
su pleno desarrollo.
2096
01:30:50,952 --> 01:30:53,087
CAROLINE: Incluso si
La actual burbuja de la IA estalla,
2097
01:30:53,120 --> 01:30:54,956
-los humanos nunca vamos a parar
-(sopla el matraca)
2098
01:30:54,989 --> 01:30:57,959
construyendo más y más
tecnología poderosa.
2099
01:30:57,992 --> 01:30:59,827
HAO:
Puedes optar por no utilizar IA
2100
01:30:59,860 --> 01:31:02,730
o participar en él, pero es
te afectará de todos modos.
2101
01:31:02,763 --> 01:31:04,231
DANIEL: Está bien, fantástico.
Entonces estamos jodidos.
2102
01:31:04,265 --> 01:31:07,568
CAROLINE: No, no lo somos.
por una cosa sencilla.
2103
01:31:11,572 --> 01:31:13,574
Esto no es inevitable.
2104
01:31:13,607 --> 01:31:15,576
Si pudiéramos verlo
claramente juntos,
2105
01:31:15,609 --> 01:31:18,813
la respuesta obvia será
para elegir algo diferente.
2106
01:31:18,846 --> 01:31:21,615
Necesitamos muy claramente
cambiar el juego
2107
01:31:21,649 --> 01:31:23,517
de una carrera hacia el fondo
en una carrera hacia la cima.
2108
01:31:23,551 --> 01:31:27,855
LEAHY: El problema que debemos resolver
resolver no es IA específicamente.
2109
01:31:27,888 --> 01:31:31,726
es la pregunta general
de cómo construimos una sociedad
2110
01:31:31,759 --> 01:31:34,528
que puede lidiar con
poderosa tecnología.
2111
01:31:34,562 --> 01:31:35,830
porque vamos a conseguir
2112
01:31:35,863 --> 01:31:37,264
sólo que cada vez más poderoso
tecnología.
2113
01:31:37,298 --> 01:31:40,034
CAROLINA:
Necesitamos mejorar nuestra sociedad,
2114
01:31:40,067 --> 01:31:41,902
y el primer paso es
unirnos
2115
01:31:41,936 --> 01:31:43,838
-y exigente...
-TODOS: Coordinación.
2116
01:31:43,871 --> 01:31:47,608
Alguna forma de internacional
cooperación o acuerdo sobre
2117
01:31:47,641 --> 01:31:48,909
cuáles deberían ser las normas.
2118
01:31:48,943 --> 01:31:50,544
Ya sabes, ¿cómo debería
serán desplegados...
2119
01:31:50,578 --> 01:31:52,146
como, real
diplomacia internacional
2120
01:31:52,179 --> 01:31:53,781
entre las superpotencias.
2121
01:31:53,814 --> 01:31:56,784
Los chinos están igualmente preocupados
al respecto como los estadounidenses.
2122
01:31:56,817 --> 01:31:58,085
Creo que es difícil
ya sabes,
2123
01:31:58,119 --> 01:31:59,920
en la actualidad
clima geopolítico,
2124
01:31:59,954 --> 01:32:01,756
-pero creo que es necesario.
-RASKIN: Absolutamente.
2125
01:32:01,789 --> 01:32:05,059
Exactamente de la misma manera que
la última vez que la humanidad
2126
01:32:05,092 --> 01:32:09,163
desarrolló una tecnología
Esto es peligroso...
2127
01:32:09,830 --> 01:32:12,900
...que requirió una completa,
cambio sin precedentes
2128
01:32:12,933 --> 01:32:15,169
a la estructura de nuestro mundo.
2129
01:32:15,770 --> 01:32:18,172
CAROLINA:
Así que tenemos que hacerlo completo.
2130
01:32:18,205 --> 01:32:20,307
cambio sin precedentes nuevamente.
2131
01:32:21,008 --> 01:32:24,678
Ya sabes, hablamos con la gente.
que trabajan en estas empresas de IA,
2132
01:32:24,712 --> 01:32:25,846
y dicen que quieren hacer
algo diferente,
2133
01:32:25,880 --> 01:32:27,048
pero necesitan presión pública.
2134
01:32:27,081 --> 01:32:28,716
Necesitan al gobierno
hacer algo.
2135
01:32:28,749 --> 01:32:30,217
Entonces vamos a DC,
y dicen,
2136
01:32:30,251 --> 01:32:32,153
"Bueno, necesitamos Silicon Valley
hacer algo diferente.
2137
01:32:32,186 --> 01:32:34,021
Ellos son los que van a
Sube las barandillas."
2138
01:32:34,055 --> 01:32:36,057
Y entonces todos están señalando
el dedo a otra persona,
2139
01:32:36,090 --> 01:32:39,927
y en lo que coinciden es
que necesitamos presión pública
2140
01:32:39,960 --> 01:32:41,796
para algo más
que suceda.
2141
01:32:41,829 --> 01:32:43,164
Y eso es lo que tu
2142
01:32:43,197 --> 01:32:44,799
y toda la gente
ver esta película puede hacer.
2143
01:32:44,832 --> 01:32:45,833
CAROLINA:
Necesitamos retener a los líderes
2144
01:32:45,866 --> 01:32:47,334
en nuestros gobiernos
2145
01:32:47,368 --> 01:32:48,969
y los líderes de
estas empresas son responsables.
2146
01:32:49,003 --> 01:32:51,639
BOERE:
Cualquiera que sea el país en el que te encuentres,
2147
01:32:51,672 --> 01:32:53,340
hazles saber
que no eres feliz
2148
01:32:53,374 --> 01:32:54,975
con el status quo actual.
2149
01:32:55,009 --> 01:32:57,678
Entonces, sí, es aburrido decirlo.
llame a su congresista.
2150
01:32:57,711 --> 01:32:59,880
No estoy diciendo que deberías
solo haz eso, pero, como,
2151
01:32:59,914 --> 01:33:01,215
tenemos que hacer eso.
2152
01:33:01,248 --> 01:33:02,883
Como, tenemos que conseguir
el gobierno involucrado.
2153
01:33:02,917 --> 01:33:04,185
DANIEL: Así que simplemente
llámalos y diles:
2154
01:33:04,218 --> 01:33:06,253
"Oye, detén a las grandes tecnologías
de arruinar el mundo"?
2155
01:33:06,287 --> 01:33:09,223
CAROLINE: No, pero hay
toneladas de cosas realmente obvias,
2156
01:33:09,256 --> 01:33:11,225
cosas sencillas
podemos ser exigentes.
2157
01:33:11,258 --> 01:33:12,960
Necesitamos transparencia.
2158
01:33:12,993 --> 01:33:14,795
Necesitamos acabar con el secretismo.
que existe dentro de estos laboratorios,
2159
01:33:14,829 --> 01:33:17,031
porque están construyendo
tecnología poderosa,
2160
01:33:17,064 --> 01:33:19,066
y el público merece saberlo
qué está sucediendo.
2161
01:33:19,100 --> 01:33:21,068
En última instancia,
vamos a necesitar independencia,
2162
01:33:21,102 --> 01:33:23,637
terceros objetivos
para evaluar los sistemas.
2163
01:33:23,671 --> 01:33:27,274
No podemos contar con las empresas.
para calificar sus propios deberes.
2164
01:33:27,308 --> 01:33:31,378
Si una empresa utiliza IA y-y
tiene IA interactuando contigo,
2165
01:33:31,412 --> 01:33:35,249
debe revelar que usted es
interactuando con un sistema de IA.
2166
01:33:35,282 --> 01:33:39,019
Sí. Y también necesitamos
un sistema que hace que las empresas
2167
01:33:39,053 --> 01:33:42,156
legalmente responsable de la
Sistemas de IA que producen.
2168
01:33:42,189 --> 01:33:46,293
Necesitamos asegurarnos de que haya
son pruebas y normas de seguridad
2169
01:33:46,327 --> 01:33:48,662
que se aplican a todos.
2170
01:33:48,696 --> 01:33:50,097
Necesitamos algunas reglas básicas,
2171
01:33:50,131 --> 01:33:51,999
y tenemos que seguir adaptándonos
esas reglas
2172
01:33:52,032 --> 01:33:55,002
a la velocidad que
la tecnología se desarrolla.
2173
01:33:55,035 --> 01:33:57,738
LEAHY: Actualmente hay
más regulación
2174
01:33:57,771 --> 01:33:59,840
sobre la venta de un sándwich
al público
2175
01:33:59,874 --> 01:34:03,410
que hay en la construcción
AGI potencialmente capaz de acabar con el mundo.
2176
01:34:03,444 --> 01:34:05,279
CAROLINA:
Y lo último es
2177
01:34:05,312 --> 01:34:07,214
para mejorarnos.
2178
01:34:07,915 --> 01:34:10,284
Este no es el trabajo.
del equipo de seguridad
2179
01:34:10,317 --> 01:34:12,153
en cualquier laboratorio, o el CEO.
2180
01:34:12,186 --> 01:34:13,854
Entonces, esto es
trabajo de todos.
2181
01:34:13,888 --> 01:34:15,156
No lo dejes
Depende de los expertos en IA.
2182
01:34:15,189 --> 01:34:17,424
Como, (bip) eso.
Como, este es el momento
2183
01:34:17,458 --> 01:34:19,460
que estamos en transición
de, como,
2184
01:34:19,493 --> 01:34:22,163
poder cognitivo principalmente humano
al poder cognitivo de la IA,
2185
01:34:22,196 --> 01:34:23,197
y afecta a todos,
2186
01:34:23,230 --> 01:34:25,166
y quiero que la gente sea
en esa conversación.
2187
01:34:25,199 --> 01:34:27,234
Y yo diría, si piensas
que la IA nos matará a todos,
2188
01:34:27,268 --> 01:34:28,969
deberías estar trabajando
en la investigación de la IA
2189
01:34:29,003 --> 01:34:30,804
para asegurarse de que no sea así,
porque tu tienes
2190
01:34:30,838 --> 01:34:32,773
una enorme cantidad de agencia.
2191
01:34:32,806 --> 01:34:34,208
CAROLINA:
Quienquiera que seas
2192
01:34:34,241 --> 01:34:36,177
eres un experto
en su propia industria,
2193
01:34:36,210 --> 01:34:39,413
en tu propia escuela,
en tu propia familia,
2194
01:34:39,446 --> 01:34:43,050
y depende de ti
cómo se utiliza la IA en tu vida.
2195
01:34:43,083 --> 01:34:45,319
Si quieres unirte
tu junta escolar
2196
01:34:45,352 --> 01:34:48,389
o-o si quieres preguntar
su empleador
2197
01:34:48,422 --> 01:34:49,924
cómo están usando
tecnologías de inteligencia artificial,
2198
01:34:49,957 --> 01:34:52,259
Todos podemos hacer el trabajo.
2199
01:34:52,293 --> 01:34:56,330
Muchos sindicatos han sido
bastante efectivo en, como,
2200
01:34:56,363 --> 01:34:59,333
determinando cómo quieren
para interactuar con estos sistemas.
2201
01:34:59,366 --> 01:35:02,303
-Sindicatos de enfermeras, sindicatos de docentes.
-(canto ininteligible)
2202
01:35:02,937 --> 01:35:05,039
DANIELA AMODEI: Me encantaría
si los padres en todas partes
2203
01:35:05,072 --> 01:35:06,407
fue a las empresas de IA
y dijo,
2204
01:35:06,440 --> 01:35:08,342
"¿Cómo puedes ser mejor?
¿En esto?" Incluyéndonos a nosotros.
2205
01:35:08,375 --> 01:35:11,445
Entonces fundé Encode Justice
cuando tenía 15 años.
2206
01:35:11,478 --> 01:35:15,082
Somos los primeros del mundo
y el mayor ejército de jóvenes
2207
01:35:15,115 --> 01:35:18,452
luchando por lo humano
inteligencia artificial.
2208
01:35:18,485 --> 01:35:21,288
No importa quién seas,
incluso las acciones más pequeñas ayudan,
2209
01:35:21,322 --> 01:35:24,291
e incluso comienza una conversación
es realmente valioso.
2210
01:35:24,325 --> 01:35:26,293
DANIEL:
Entonces mi trabajo podría ser, como,
2211
01:35:26,327 --> 01:35:28,295
cuéntale esto a Bubby Lila
¿en la cena?
2212
01:35:28,329 --> 01:35:30,364
CAROLINE: Honestamente, sí
Eso es parte de ello.
2213
01:35:30,397 --> 01:35:32,099
Y vamos a tener que hacer
2214
01:35:32,132 --> 01:35:34,969
muchas cosas que
Ni siquiera lo hemos pensado todavía.
2215
01:35:35,002 --> 01:35:36,503
La gente va a mirar
todo lo que hemos descrito
2216
01:35:36,538 --> 01:35:37,838
y decir: "Eso no es suficiente".
2217
01:35:37,871 --> 01:35:39,473
Lo que importa es que las fuerzas
2218
01:35:39,507 --> 01:35:41,242
que estan funcionando
hacia soluciones
2219
01:35:41,275 --> 01:35:44,979
empezar a superar las fuerzas que
están trabajando en contra de las soluciones.
2220
01:35:45,012 --> 01:35:46,947
Haciendo el mundo mejor
Siempre ha sido difícil.
2221
01:35:46,981 --> 01:35:48,249
Nunca ha sido fácil.
2222
01:35:48,282 --> 01:35:50,317
Como, ha habido
muchas cosas de mierda
2223
01:35:50,351 --> 01:35:52,286
que han pasado en la historia,
y hemos tenido--
2224
01:35:52,319 --> 01:35:54,121
como, la gente ha tenido
para lidiar con eso,
2225
01:35:54,154 --> 01:35:57,191
y luego se han levantado
y lo cambié.
2226
01:35:57,224 --> 01:36:00,894
Hay un número loco
de los desafíos que tenemos por delante,
2227
01:36:00,928 --> 01:36:04,398
pero si podemos superarlos,
2228
01:36:04,431 --> 01:36:08,536
podemos desbloquear un futuro más allá
nuestra imaginación más salvaje.
2229
01:36:08,570 --> 01:36:10,804
CAROLINA:
Tenemos que unirnos
2230
01:36:10,838 --> 01:36:14,875
y encontrar el camino entre
la promesa y el peligro.
2231
01:36:14,908 --> 01:36:17,177
No podemos ser pesimistas
o optimistas.
2232
01:36:17,778 --> 01:36:20,180
Tenemos que convertirnos en algo nuevo.
2233
01:36:22,182 --> 01:36:25,185
Un amigo mio me llama
un apocaloptimista.
2234
01:36:25,219 --> 01:36:26,186
¿"Apocaloptimista"?
2235
01:36:26,220 --> 01:36:28,889
creo que eso podría ser
mi nueva palabra favorita.
2236
01:36:28,922 --> 01:36:30,291
-(risas) -HOMBRE: Podría ser
el nombre de esta película.
2237
01:36:30,324 --> 01:36:31,892
-Quizás sea el nombre.
de esta película. -(risas)
2238
01:36:31,925 --> 01:36:34,862
-"Apocaloptimista".
-"Apocaloptimista".
2239
01:36:34,895 --> 01:36:36,430
Sí.
2240
01:36:36,463 --> 01:36:37,898
No creo en la fatalidad.
2241
01:36:37,931 --> 01:36:39,366
Creo en el espíritu de la vida,
2242
01:36:39,400 --> 01:36:43,137
uh, y creo en la vida es
sobre la capacidad de actuar.
2243
01:36:43,170 --> 01:36:44,905
-(multitud cantando)
-La capacidad de relacionarse,
2244
01:36:44,938 --> 01:36:47,141
la capacidad de sentir.
2245
01:36:49,376 --> 01:36:51,345
-(charla de misión confusa)
-(animando)
2246
01:36:51,378 --> 01:36:54,315
Tenemos que redoblar la apuesta
cada vez más
2247
01:36:54,348 --> 01:36:57,384
sobre esas capacidades
que tenemos como humanos
2248
01:36:57,418 --> 01:36:59,853
que los sistemas robóticos
nunca lo haré.
2249
01:37:00,487 --> 01:37:04,559
Es el momento ahora
para tomar esas decisiones sobre
2250
01:37:04,592 --> 01:37:08,062
cómo guiarlo y apoyarlo
en lugar de dividirnos.
2251
01:37:08,095 --> 01:37:10,898
DANIEL: Parece que
criar a un niño.
2252
01:37:10,931 --> 01:37:12,634
Eso es lo que pasa. Sí.
2253
01:37:12,667 --> 01:37:15,035
CAROLINE: La IA puede tener
más inteligencia bruta
2254
01:37:15,069 --> 01:37:17,471
-que nuestros pequeños cerebros humanos,
-(bebé riendo)
2255
01:37:17,504 --> 01:37:20,608
pero somos mucho más
que sólo nuestra inteligencia.
2256
01:37:21,208 --> 01:37:25,379
La inteligencia es-es
la capacidad de resolver problemas.
2257
01:37:25,412 --> 01:37:29,116
La sabiduría es la capacidad de saber.
qué problemas resolver.
2258
01:37:31,519 --> 01:37:34,188
(charla confusa de la tripulación)
2259
01:37:34,221 --> 01:37:35,489
DANIEL:
Puede ir a tu refrigerador.
2260
01:37:35,523 --> 01:37:36,658
(riendo)
2261
01:37:36,691 --> 01:37:38,626
YUDKOWSKY:
Así que no te rindas.
2262
01:37:38,660 --> 01:37:40,227
La humanidad ha hecho
2263
01:37:40,260 --> 01:37:43,030
cosas más difíciles que esto
en su historia.
2264
01:37:43,897 --> 01:37:46,967
Es simplemente difícil de convencer
personas que deberían hacerlo.
2265
01:37:47,000 --> 01:37:49,336
♪ ♪
2266
01:37:52,072 --> 01:37:53,273
(el audio crepita)
2267
01:37:55,309 --> 01:37:57,277
DANIEL: Entonces, cuando comencé
haciendo esta película,
2268
01:37:57,311 --> 01:37:59,012
Yo diría que era como,
2269
01:37:59,046 --> 01:38:01,348
en general un imbécil cínico
sobre todo este asunto.
2270
01:38:01,382 --> 01:38:03,450
Durante el curso
de hacer la película,
2271
01:38:03,484 --> 01:38:05,152
He llegado a entender
eso, como
2272
01:38:05,185 --> 01:38:06,987
eso es lo único
No podemos serlo.
2273
01:38:07,756 --> 01:38:09,990
...o cualquier otra cosa
¿Te gustaría conversar?
2274
01:38:10,023 --> 01:38:11,992
No. Creo que cubrimos mucho.
2275
01:38:12,025 --> 01:38:13,561
-Sí. (risas)
-HOMBRE: Muchas gracias.
2276
01:38:13,595 --> 01:38:15,295
Gracias.
2277
01:38:15,929 --> 01:38:17,498
DANIEL:
Este es un problema que es mayor
2278
01:38:17,532 --> 01:38:19,400
que cualquier persona.
2279
01:38:19,433 --> 01:38:22,136
Esto cambiará el mundo en
maneras que no entendemos.
2280
01:38:22,169 --> 01:38:24,037
Todo eso es cierto.
2281
01:38:24,071 --> 01:38:26,106
-(risas): Está bien.
-(charla confusa)
2282
01:38:26,140 --> 01:38:28,208
DANIEL:
Pero sobre lo que sí tenemos influencia
2283
01:38:28,242 --> 01:38:30,411
es lo que hacemos al respecto.
2284
01:38:30,444 --> 01:38:33,113
A medida que crece la IA de frontera
exponencialmente más capaz...
2285
01:38:33,147 --> 01:38:34,682
DANIEL:
Y la realidad
2286
01:38:34,716 --> 01:38:37,151
es que si simplemente decidimos
es inútil
2287
01:38:37,184 --> 01:38:39,420
Entonces es inútil.
2288
01:38:39,453 --> 01:38:41,221
...para poner menos estrés
en el planeta Tierra...
2289
01:38:41,255 --> 01:38:43,257
DANIEL:
Pero si tú decides
2290
01:38:43,290 --> 01:38:46,293
que quieres probar...
2291
01:38:47,194 --> 01:38:48,563
...entonces inténtalo.
2292
01:38:48,596 --> 01:38:50,931
Y eso es difícil.
2293
01:38:51,733 --> 01:38:53,500
¿Pero sabes qué?
2294
01:38:53,535 --> 01:38:57,137
Las grandes cosas parecen imposibles
antes de que realmente sucedan.
2295
01:38:58,673 --> 01:39:01,676
Pero cuando finalmente suceden,
2296
01:39:01,709 --> 01:39:05,713
es porque millones de personas
realizó millones de acciones
2297
01:39:05,747 --> 01:39:08,182
para hacerlos realidad.
2298
01:39:08,215 --> 01:39:10,752
Y entonces...
2299
01:39:10,785 --> 01:39:13,220
Tenemos que intentarlo.
2300
01:39:14,087 --> 01:39:15,523
(suspira profundamente)
2301
01:39:21,663 --> 01:39:24,298
Hay demasiado en juego.
2302
01:39:24,331 --> 01:39:26,366
♪ ♪
2303
01:39:33,040 --> 01:39:35,375
(película crepitante)
2304
01:39:37,545 --> 01:39:41,749
Mira los increíbles cambios.
hemos experimentado y sobrevivido
2305
01:39:41,783 --> 01:39:43,317
de la Edad de Piedra,
2306
01:39:43,350 --> 01:39:46,487
y aún mayores cambios
aún están por llegar.
2307
01:39:46,521 --> 01:39:50,090
("Lo perdí al intentarlo"
por Son Lux jugando)
2308
01:40:19,086 --> 01:40:21,288
♪ ♪
2309
01:40:48,181 --> 01:40:50,718
♪ ¿Qué haremos ahora? ♪
2310
01:40:50,752 --> 01:40:53,755
♪ Hemos perdido el control ♪
2311
01:40:53,788 --> 01:40:55,690
♪ Lo hemos perdido ♪
2312
01:40:55,723 --> 01:40:57,457
♪ Para intentarlo ♪
2313
01:41:00,193 --> 01:41:02,764
♪ ¿Qué haremos ahora? ♪
2314
01:41:02,797 --> 01:41:05,733
♪ Hemos perdido el control ♪
2315
01:41:05,767 --> 01:41:07,602
♪ Lo hemos perdido ♪
2316
01:41:07,635 --> 01:41:09,469
♪ Para intentarlo ♪
2317
01:41:12,205 --> 01:41:14,709
♪ ¿Qué podemos decir ahora? ♪
2318
01:41:14,742 --> 01:41:17,745
♪ Nuestras bocas sólo mienten ♪
2319
01:41:17,779 --> 01:41:19,212
♪ Nuestras bocas ♪
2320
01:41:19,246 --> 01:41:21,448
♪ Sólo mintiendo ♪
2321
01:41:25,720 --> 01:41:28,255
♪ ¿Qué podemos decir ahora? ♪
2322
01:41:28,288 --> 01:41:31,358
♪ Nuestras bocas sólo mienten ♪
2323
01:41:31,391 --> 01:41:32,760
♪ Nuestras bocas ♪
2324
01:41:32,794 --> 01:41:34,762
♪ Sólo mintiendo ♪
2325
01:41:34,796 --> 01:41:37,197
♪ ♪
2326
01:42:01,522 --> 01:42:04,291
♪ Ríndete y sal ♪
2327
01:42:04,324 --> 01:42:07,294
♪ Nos levantamos entre los moribundos ♪
2328
01:42:07,327 --> 01:42:08,763
♪ Nos levantamos ♪
2329
01:42:08,796 --> 01:42:11,164
♪ En los moribundos ♪
2330
01:42:13,568 --> 01:42:16,336
♪ Ríndete y sal ♪
2331
01:42:16,370 --> 01:42:19,272
♪ Nos levantamos entre los moribundos ♪
2332
01:42:19,306 --> 01:42:20,775
♪ Nos levantamos ♪
2333
01:42:20,808 --> 01:42:23,176
♪ En los moribundos ♪
2334
01:42:25,546 --> 01:42:28,248
♪ Ríndete y sal ♪
2335
01:42:28,281 --> 01:42:31,251
♪ Nos levantamos entre los moribundos ♪
2336
01:42:31,284 --> 01:42:32,787
♪ Nos levantamos ♪
2337
01:42:32,820 --> 01:42:35,155
♪ En los moribundos ♪
2338
01:42:37,558 --> 01:42:40,293
♪ Ríndete y sal ♪
2339
01:42:40,327 --> 01:42:43,263
♪ Nos levantamos entre los moribundos ♪
2340
01:42:43,296 --> 01:42:44,532
♪ Nosotros ♪
2341
01:42:44,565 --> 01:42:46,601
♪ ♪
2342
01:43:16,263 --> 01:43:18,465
♪ ♪
2343
01:43:23,336 --> 01:43:25,840
♪ Oh, oh, oh, oh, oh ♪
2344
01:43:25,873 --> 01:43:27,675
♪ Oh, oh, oh, oh ♪
2345
01:43:27,709 --> 01:43:28,943
♪ Oh, oh ♪
2346
01:43:28,976 --> 01:43:31,913
♪ Oh, oh, oh, oh, oh, oh ♪
2347
01:43:31,946 --> 01:43:33,648
♪ Oh, oh, oh, oh ♪
2348
01:43:33,681 --> 01:43:34,916
♪ Oh, oh ♪
2349
01:43:34,949 --> 01:43:37,552
♪ Oh, oh, oh, oh, oh, oh ♪
2350
01:43:37,585 --> 01:43:40,287
♪ ¿Qué haremos ahora? ♪
2351
01:43:40,320 --> 01:43:43,290
♪ Hemos perdido el control ♪
2352
01:43:43,323 --> 01:43:45,026
♪ Lo hemos perdido ♪
2353
01:43:45,059 --> 01:43:46,861
♪ Para intentarlo ♪
2354
01:43:46,894 --> 01:43:49,530
♪ Oh, oh, oh, oh, oh, oh ♪
2355
01:43:49,564 --> 01:43:52,332
♪ ¿Qué haremos ahora? ♪
2356
01:43:52,365 --> 01:43:55,335
♪ Hemos perdido el control ♪
2357
01:43:55,368 --> 01:43:57,038
♪ Lo hemos perdido ♪
2358
01:43:57,071 --> 01:43:58,940
♪ A intentarlo. ♪
2359
01:43:58,973 --> 01:44:01,374
♪ ♪
2360
01:44:23,798 --> 01:44:24,865
(la canción termina)